ИИ услышал план убийства - и вызвал ФБР
Даррен Чжоу, 25-летний бывший аналитик Goldman Sachs из Флориды, был арестован после того, как поделился с ChatGPT подробными планами изнасилования и убийства своей бывшей девушки. OpenAI обнаружила угрозы и передала журналы разговоров в ФБР. Его обвинили в преследовании, письменных угрозах и незаконном использовании телефона, и он подписал сделку о признании вины с восемью годами условно, после того как его бывшая девушка одобрила договорённость.
Даррен Чжоу, 25-летний молодой человек из Флориды, работавший аналитиком в инвестиционном банке Goldman Sachs, был арестован и привлечён к суду после того, как поделился с ChatGPT своими подробными планами изнасилования и убийства своей бывшей девушки. Компания OpenAI, разрабатывающая чат-бот, выявила непосредственную опасность и сообщила о нём в ФБР. Согласно судебным документам, Чжоу обратился к программе искусственного интеллекта в марте, чтобы выплеснуть разочарование после расставания с девушкой. Он описал её увлечения, места, где она обычно бывает, и свою ревность к окружающим её мужчинам. Вскоре разговоры превратились в конкретные угрозы изнасилования, убийства и самоубийства. «Я убью её до конца месяца», — написал Чжоу ChatGPT в разговорах, зафиксированных в материалах дела. «Если я не могу получить её, то никто не получит». Федеральные агенты передали журналы разговоров в офис шерифа округа Палм-Бич в мае, после того как угрозы расширились и стали включать семью 21-летней девушки. Следователь установил, что это не «смутные эмоциональные вспышки», а чёткая картина планирования и репетиций перед совершением преступления. Во время проверки благополучия, проведённой полицейскими, девушка рассказала, что рассталась с Чжоу из-за «непредсказуемого, ревнивого и властного поведения». После расставания он навязчиво преследовал её звонками, текстовыми сообщениями и в соцсетях, используя вымышленные номера. Имея на руках журналы ИИ и угрожающие сообщения, полиция арестовала Чжоу. Он был уволен с работы, провёл два дня под стражей и был отпущен под залог в 100 тысяч долларов. В июне его обвинили в ряде тяжких преступлений — отягчённое преследование, письменные угрозы убийством и незаконное использование мобильного телефона — преступлениях, максимальное наказание за которые составляет 25 лет тюрьмы. Однако на этой неделе (13 августа) Чжоу подписал сделку о признании вины, в рамках которой признал все обвинения, но избежал реального тюремного срока и серьёзной судимости. Судья Скотт Саскауэр отметил в зале суда, что согласился утвердить сделку, включающую восемь лет условно и ряд строгих ограничений, исключительно потому, что бывшая девушка Чжоу одобрила договорённость. Адвокат Чжоу, Стивен Белл, подчеркнул чистое прошлое молодого человека и тот факт, что, несмотря на угрозы, у него не было оружия: «Он не жестокий и не плохой человек. Он пережил очень тяжёлый эпизод психического расстройства, и сейчас у него всё исключительно хорошо».