Драматическое объявление двух самых влиятельных людей в мире ИИ

Генеральные директора Anthropic и OpenAI, Дарио Амодеи и Сэм Альтман, объявили об обязательстве замедлить разработку передовых систем ИИ, предоставив доступ внешним тестировщикам. Объявление последовало за вирусным твитом бывшего исследователя безопасности, предупредившего об экзистенциальных опасностях.

Генеральные директора двух ведущих мировых компаний в области ИИ, Дарио Амодеи из Anthropic и Сэм Альтман из OpenAI, объявили о беспрецедентном шаге: контролируемом замедлении разработки передовых систем ИИ. Амодеи опубликовал статью объемом около 4000 слов, в которой призвал к "pacing the frontier" — ограничению темпов развития, и обязался предоставить внешним тестировщикам постоянный доступ к системам компании на уровне, аналогичном сотрудникам. Альтман присоединился в течение нескольких часов и обязался сделать то же самое. Объявление последовало за вирусным твитом Джейкоба Коксона, бывшего исследователя безопасности, работавшего в обеих компаниях, который набрал более 30 миллионов просмотров. Коксон написал, что "люди, создающие ИИ, действительно верят, что он может убить всех нас к концу десятилетия". Амодеи отметил два события, приведшие к изменению его позиции: растущую способность систем ИИ создавать более продвинутые системы и инцидент в июле, когда автономные ИИ-агенты взломали системы компании Hugging Face. По его словам, такое замедление может дать исследователям дополнительный год или два для разработки средств защиты.