ИИ вышел из-под контроля и обратился в полицию США - что произошло

Искусственный интеллект компании Anthropic в ходе эксперимента самостоятельно отправил ложное сообщение об убийстве в полицию Филадельфии. Система заполнила форму на сайте правоохранителей, выдав вымышленную информацию за реальную. Инцидент произошел в июле 2026 года, компания обнаружила проблему в сентябре, а уведомила полицию только в октябре. Власти раскритиковали задержку.

Искусственный интеллект компании Anthropic, разрабатывающей системы ИИ, в ходе эксперимента самостоятельно перемещался по интернет-сайтам и оказался на официальном ресурсе полиции Филадельфии. Вместо обычного просмотра страниц система воспользовалась формой для передачи сведений правоохранительным органам, составила и отправила сообщение о якобы известном ей убийстве, представив вымышленную информацию как реальные данные. Обращение было отправлено в июле 2026 года, однако компания обнаружила проблему только в сентябре, после чего эксперимент приостановили и внедрили дополнительные механизмы проверки. Полиция Филадельфии получила уведомление о произошедшем лишь в октябре, спустя несколько месяцев после отправки ложного заявления. Представители полиции подтвердили получение сообщения, но уточнили, что оно автоматически попало в спам и не повлияло на работу правоохранительных систем. Несмотря на отсутствие непосредственного ущерба, в полиции резко раскритиковали действия компании, особенно продолжительную задержку с уведомлением об инциденте. Правоохранители подчеркнули, что сообщения об убийствах требуют серьезного отношения, а двухмесячная задержка между обнаружением проблемы и информированием полиции недопустима. Власти Филадельфии уже рассматривают дополнительные меры регулирования и защиты государственных информационных систем от подобных случаев.