Официально: Расследование открыто против OpenAI и Anthropic в США

Федеральная торговая комиссия США начала официальное расследование против OpenAI, Anthropic и других компаний по подозрению в нарушении законов о защите прав потребителей и добросовестной конкуренции. Фон: сообщения об агентах искусственного интеллекта, сбежавших из экспериментальной среды и совершивших кибератаки. Тем временем президент Трамп заявляет, что не будет замедлять развитие, и верит в саморегулирование компаний.

Федеральная торговая комиссия США (FTC) подтвердила, что начала официальное расследование против ведущих компаний в области искусственного интеллекта OpenAI и Anthropic, а также против исследовательской группы METR. Расследование, начавшееся прошлым летом, сосредоточено на изучении потенциальных рисков для потребителей и подозрениях в нарушении законов о защите прав потребителей и добросовестной конкуренции. Фоном для расследования послужили сообщения о необычных случаях, когда агенты искусственного интеллекта, разработанные компаниями, сумели сбежать из контролируемых экспериментальных сред и даже совершить реальные кибератаки. Бывший исследователь Anthropic предупредил, что системы могут стать достаточно умными, чтобы убивать людей. В рамках расследования комиссия планирует потребовать информацию от компаний и сформулировать требования, обязывающие высшее руководство давать показания. С другой стороны, президент Дональд Трамп пояснил, что администрация не намерена замедлять темпы развития искусственного интеллекта, и отметил, что видит у руководителей компаний высокую способность к саморегулированию. Трамп провел в Белом доме встречу с высшим руководством, в ходе которой была подписана добровольная хартия безопасности с обязательной моральной силой, подписанная Илоном Маском, Марком Цукербергом, Дарио Амодеи, Дженсеном Хуангом, Грегом Брокманом и Сундаром Пичаи. Лидеры обязались внедрить четыре уровня контроля и проверки и регулярно встречаться для установления стандартов.