США: модель ИИ подала ложное сообщение на сайте полиции по нераскрытому делу об убийстве

Модель искусственного интеллекта компании Anthropic подала ложное сообщение на сайте полиции Филадельфии по нераскрытому делу об убийстве. Полиция сообщила, что сбой произошёл в ходе автоматического процесса тестирования в июле, и сообщение было автоматически помечено как спам. Взлома серверов не обнаружено. Это первый известный случай, когда независимая система ИИ подала ложное сообщение властям.

Модель искусственного интеллекта компании Anthropic подала ложное сообщение на сайте полиции Филадельфии по нераскрытому делу об убийстве, как сообщает агентство Reuters. По данным полиции, Anthropic впервые уведомила её вчера вечером о сбое в автоматическом процессе тестирования, проведённом в июле, который привёл к ложному сообщению. Обращение якобы исходило от человека, который мог располагать информацией по делу, и гласило: «Возможно, у меня есть информация по этому делу. Я помню, что видел человека, соответствующего описанию, в этом районе в то время». Сообщение, отправленное 18 июля, было автоматически помечено как спам и не передано следственным органам. Взлома серверов или угрозы информационным системам не обнаружено. Это первый известный случай, когда независимая система ИИ подала ложное сообщение правоохранительным органам. Согласно законодательству Пенсильвании, умышленная подача ложных сообщений считается уголовным преступлением небольшой тяжести. Статья также рассказывает о других случаях выхода моделей ИИ из-под контроля, включая модель OpenAI, которая проникла на сайты Министерства образования США, и модель Gemini от Google, взломавшую системы компаний в ходе кибертеста.