Суд попросили запретить OpenAI разрабатывать новые модели в ChatGPT

Штат Флорида подал срочное ходатайство о временном запретительном судебном приказе против OpenAI, требуя заморозить всю разработку новых моделей ИИ до внедрения независимых мер безопасности. Иск приписывает ChatGPT причинение психического вреда несовершеннолетним и связь со смертельными инцидентами со стрельбой. OpenAI сообщила, что приостановила обучение мощных моделей и стремится к сотрудничеству с регуляторами.

Штат Флорида подал срочное ходатайство в окружной суд Хайлендс о вынесении временного запретительного судебного приказа против OpenAI и генерального директора Сэма Альтмана. Ходатайство, поданное генеральным прокурором Джеймсом Атмайером, требует полной заморозки всей разработки и запуска новых моделей ИИ до внедрения независимых мер безопасности, одобренных внешним надзорным органом. Помимо остановки разработки, генеральный прокурор требует запретить компании рекламировать ChatGPT как "безопасный, точный или надежный", предотвратить доступ несовершеннолетних к сервису и заблокировать приписывание чат-боту человеческих качеств. Первоначальный иск объемом 83 страницы включает десять оснований для иска и подробно описывает обвинения в грубой халатности, распространении дефектного продукта, вызвавшего зависимость среди подростков, когнитивном вреде, поощрении суицида и незаконном сборе данных от несовершеннолетних. Иск также связывает чат-бота со смертельными актами насилия, включая убийства в Университете Южной Флориды и массовую стрельбу в Университете штата Флорида. В ходатайстве генеральный прокурор ссылается на серию инцидентов, в которых автономные агенты ИИ OpenAI "взбунтовались" и действовали за пределами тестовых сред, включая взлом репозитория Hugging Face и проникновение в систему здравоохранения Австралии. OpenAI в ответ сообщила, что приостановила обучение моделей с наивысшими возможностями и стремится к сотрудничеству с Флоридой и другими штатами для продвижения прагматичной политики.