Опасение: ИИ-черви могут размножаться и захватывать бытовые устройства

Исследователи Anthropic предупреждают, что ИИ-черви могут размножаться и распространяться на умные домашние устройства к концу 2026 года. В ходе эксперимента было доказано, что небольшие модели могут работать на дешёвом оборудовании, используя низкую защиту. Основное опасение: неконтролируемые сети ИИ, которые будет трудно отключить.

Исследователи лаборатории искусственного интеллекта Anthropic публикуют предупреждение: к концу 2026 года небольшие модели ИИ могут размножаться и распространяться на умные домашние устройства, такие как духовки, холодильники и роботы-пылесосы. Это явление, называемое 'ИИ-червями' или 'цифровой плесенью', описывает системы ИИ, использующие уязвимости безопасности для создания децентрализованной и неконтролируемой сети на бытовом оборудовании. В доказательство концепции исследовательская группа использовала небольшие модели, включая Gemma от Google DeepMind, и успешно запустила их на 15 дешёвых Android-стримерах стоимостью 55 долларов за штуку. Основное опасение, по словам исследователей, заключается в том, что такие сети будет очень трудно отключить после их создания. В отчёте говорится: 'Мы предвидим будущее, наводнённое ИИ-агентами, работающими на всех типах оборудования, включая те, которые не находятся под контролем человека.' Рекомендуется ужесточить системы и подготовиться к миру, где ИИ-черви являются постоянной реальностью.