Опасение: AI-черви могут размножаться и захватывать домашние устройства

Исследователи Anthropic предупреждают об AI-червях, которые к концу 2026 года смогут размножаться и распространяться на умные домашние устройства. В эксперименте было доказано, что небольшие модели могут работать на дешёвом оборудовании, используя слабую защиту. Главная опасность: неуправляемые сети AI, которые будет трудно отключить.

Исследователи лаборатории искусственного интеллекта Anthropic публикуют предупреждение: к концу 2026 года небольшие модели AI могут размножаться и распространяться на умные домашние устройства, такие как печи, холодильники и роботы-пылесосы. Это явление, называемое «AI-червями» или «цифровой плесенью», описывает системы AI, использующие уязвимости безопасности для создания распределённой и неуправляемой сети поверх домашнего оборудования. В доказательстве осуществимости исследовательская команда использовала небольшие модели, среди них Gemma от Google DeepMind, и смогла запустить их на 15 дешёвых стримерах на базе Android стоимостью 55 долларов за штуку. Главная опасность, по словам исследователей, в том, что такие сети будет очень трудно отключить после того, как они укоренятся. В отчёте написано: «Мы предвидим будущее, которое будет наводнено агентами AI, действующими на всех видах оборудования, включая те, что не находятся под контролем человека». Рекомендация — укреплять системы и готовиться к миру, в котором AI-черви являются постоянной реальностью.