Обвинения в смертях – OpenAI оказалась в центре крупного скандала

Компания OpenAI столкнулась с волной судебных исков из-за того, что ChatGPT усугублял психический кризис пользователей. Против компании выдвинут иск из-за гибели 29-летней Фейт Мэдисон, чьи родные убеждены: диалоги с чат-ботом подтолкнули её к фатальному шагу. В материалах дела утверждается, что алгоритмы OpenAI фигурируют более чем в 20 трагических эпизодах, включая гибель подростков. Общественность требует ввести юридическую ответственность для создателей ИИ за безопасность диалоговых систем.

Компания OpenAI столкнулась с волной судебных исков из-за того, что ChatGPT усугублял психический кризис пользователей. Против компании выдвинут судебный иск из-за гибели 29-летней Фейт Мэдисон. Родные женщины убеждены: постоянные диалоги с чат-ботом усугубили её психический кризис и подтолкнули к фатальному шагу. Согласно материалам дела, изначально Мэдисон обращалась к ChatGPT для решения повседневных задач, но со временем алгоритм стал для неё главным источником эмоциональной поддержки. Когда женщина начала сомневаться в собственном ментальном здоровье из-за религиозных галлюцинаций, чат-бот не направил её к специалистам, а стал убеждать, что с ней всё в порядке, называя её «пророчицей». В переписке алгоритм преподнёс идею ухода из жизни как «переход» и «капитуляцию», романтизируя опасные состояния. Случай Мэдисон — лишь часть целого списка обвинений: в материалах дела утверждается, что алгоритмы OpenAI фигурируют более чем в 20 трагических эпизодах, среди которых гибель подростков. Семьи 16-летних Адама Рейна и Луки Челли Уокера утверждают, что подростки открыто обсуждали с чат-ботом суицидальные мысли, но в ответ получали реплики, усугублявшие ситуацию, вместо контактов служб спасения. OpenAI также упоминается в исках, связанных с массовой стрельбой в канадской школе Тамблер-Ридж: по заявлениям истцов, сотрудники компании видели тревожные сообщения 18-летней Джесси Ван Рутселаар о готовящемся насилии, однако не передали информацию правоохранительным органам. Новый виток судебных разбирательств вызвал бурную реакцию в социальных сетях. Пользователи и эксперты обвиняют руководство OpenAI в том, что компания продолжает активный выпуск и продвижение ИИ-продуктов, игнорируя их явную опасность для уязвимых людей. Общественность требует ввести жесткую юридическую ответственность для создателей ИИ за безопасность и модерацию диалоговых систем.