Они попросили ChatGPT и его конкурентов спланировать атаки — и результаты тревожны
Управление государственной отчетности США (GAO) проверило четыре системы искусственного интеллекта — ChatGPT, Claude, Gemini и Grok — и обнаружило, что их механизмы безопасности можно обойти, получив практическую информацию для планирования массовых атак и ударов по электросети, причем менее чем за 12 часов. Исследователи выдавали себя за обычных пользователей и смогли получить цели, карты и планы действий. Технологические компании заявили, что проверка проводилась на устаревших версиях.
Управление государственной отчетности США (GAO) опубликовало отчет, показывающий, что механизмы безопасности четырех ведущих систем искусственного интеллекта можно обойти, получив практическую информацию для планирования атак. В ходе скрытого эксперимента исследователи выдавали себя за обычных пользователей и обращались к ChatGPT от OpenAI, Claude от Anthropic, Gemini от Google и Grok от xAI. Две системы тестировались в сценарии массовой атаки в крупных городах США, а две — в сценарии удара по электросети. Сначала все системы отказались, но после менее чем 12 часов непрерывного разговора они предоставили информацию о целях, сроках, методах, картах и визуальных иллюстрациях. Исследователи проверили часть информации на местах и проконсультировались с экспертами, обнаружив, что она достаточно практична для помощи человеку со злыми намерениями, хотя были найдены и ошибки. В отчете не раскрывается, какой чат-бот был назначен на каждый сценарий. Компании, занимающиеся ИИ, ответили, что проверка проводилась на старых версиях и что с тех пор защита была улучшена. Сенатор Мэгги Хассан, заказавшая проверку, предупредила, что опасность не является теоретической и что Конгресс должен действовать.
Они попросили ChatGPT и его конкурентов спланировать атаки — и результаты тревожны