Ошибка ИИ едва не привела США к столкновению с Китаем
США едва не начали военную операцию по перехвату китайского судна на Ближнем Востоке из-за ошибочного разведотчета, подготовленного с помощью ИИ. Чат-бот неверно определил характер груза, приняв его за компоненты ядерной программы. Операцию остановили в последний момент после дополнительной проверки данных.
США едва не начали военную операцию по перехвату китайского судна на Ближнем Востоке из-за ошибочного разведывательного отчета, подготовленного с помощью искусственного интеллекта. Как сообщает CNN со ссылкой на четыре источника, американские военные восприняли информацию настолько серьезно, что начали готовиться к перехвату: вооруженные военнослужащие должны были подняться на борт, а военные самолеты уже находились в воздухе. Операцию остановили незадолго до начала, когда чиновники дополнительно изучили отчет и обнаружили, что аналитик Командования специальных операций использовал чат-бота. ИИ неверно определил характер материалов, перевозимых китайским судном. Один из источников назвал сведения полностью ложными, другой заявил, что произошедшее едва не привело к войне. Аналитик получил информацию о грузе от Тихоокеанского командования специальных операций на Гавайях и передал ее чат-боту. ИИ объединил исходные данные с открытыми источниками и секретными сведениями радиоэлектронной разведки, после чего сделал неправильный вывод. Затем аналитик снова использовал ИИ для подготовки стандартного разведотчета, который распространили среди военных. Инцидент произошел на фоне быстрого внедрения ИИ в армии и разведке США. Источники отмечают, что единой системы проверки информации, полученной при помощи ИИ, пока нет, и этот случай — не единственный пример «галлюцинации» ИИ в разведсообществе.