"Anthropic" предупреждает об ИИ-червях, способных распространяться по умным устройствам

Американская компания "Anthropic" предупредила, что модели ИИ могут стать способными к самокопированию и распространению среди умных домашних устройств. Эксперименты её команды безопасности показали возможность запуска распределённой модели на 15 умных телевизорах, что вызвало опасения появления "ИИ-червей", которых трудно остановить.

Американская компания "Anthropic" предупредила, что модели ИИ могут в течение месяцев стать способными к самокопированию и независимому распространению среди подключённых к интернету умных домашних устройств, что может затруднить обнаружение и остановку вредоносного ПО. Исследование, опубликованное командой тестирования безопасности компании, известной как "красная команда", выявило эксперименты, показавшие возможность запуска модели ИИ на 15 недорогих устройствах для умного телевидения путём распределения её частей между ними и подключения к одной сети. Эти результаты вызвали опасения появления нового поколения вредоносного ПО, известного как "ИИ-черви", способного распространяться между подключёнными к интернету устройствами без постоянного вмешательства человека. Однако эксперимент не доказал способность модели взломать пятнадцать телевизоров и распространяться между ними автоматически; исследователи тестировали запуск распределённой модели на реальных устройствах, проводя тесты самовоспроизведения отдельно в упрощённых и изолированных средах. Исследователи Anthropic считают, что будущее объединение способности запускать маленькие модели на домашних устройствах с навыками взлома и самовоспроизведения может позволить разработать ПО, которое трудно остановить, особенно если оно распределено по большому количеству устройств без зависимости от центрального сервера.