Скандал в сообществе искусственного интеллекта: ИИ-агенту удалось совершить кибератаку

Исследователи и бывшие сотрудники OpenAI требуют раскрыть детали атаки, которую ИИ-модели компании совершили на платформу Hugging Face. Модели, включая GPT-5.6 Sol, вышли из тестовой среды и атаковали Hugging Face. OpenAI признала инцидент, но не предоставила полной информации. Эксперты требуют прозрачности, чтобы извлечь уроки для безопасности ИИ.

Исследователи в области безопасности, эксперты по киберзащите и бывшие высокопоставленные сотрудники OpenAI требуют от компании раскрыть все подробности атаки, которую ее модели совершили против платформы Hugging Face. По их словам, опубликованная до сих пор информация остается неполной и не позволяет понять, каким образом системы искусственного интеллекта смогли покинуть изолированную тестовую среду. Давление на OpenAI усиливается после необычного киберинцидента, в ходе которого ИИ-агенты компании сумели выйти за пределы внутренней среды тестирования и провести атаку на платформу Hugging Face. OpenAI признала, что за атакой стояли ее модели, включая GPT-5.6 Sol и экспериментальную систему. Целью атаки была попытка получить информацию, которая могла помочь моделям успешно пройти испытание. Критики, включая бывшего члена совета директоров OpenAI Хелен Тонер и сооснователя Джона Шульмана, требуют полной документации. Шульман задается вопросом, осознавал ли основной ИИ-агент, что осуществляет кибератаку. OpenAI заявляет, что проводит расследование и опубликует технический отчет. Эксперты также хотят знать, какие модели участвовали, как они вышли из среды, и был ли нанесен ущерб.