Генеральный директор Anthropic выступил с необычным предупреждением: необходимо замедлить гонку ИИ, прежде чем мы потеряем контроль
Генеральный директор Anthropic Дарио Амодей призывает замедлить темпы разработки передового искусственного интеллекта, опасаясь, что возможности улучшаются быстрее, чем человеческая способность их понимать и контролировать. В статье под названием «We Must Pace the Frontier» он предупреждает о потере контроля, кибер- и биологических рисках и предлагает модель намеренного замедления с привлечением независимых внешних аудиторов в компаниях, занимающихся ИИ.
Генеральный директор Anthropic Дарио Амодей выступил с необычным предупреждением, призывая замедлить темпы разработки передового искусственного интеллекта. В статье, опубликованной в его личном блоге под названием «We Must Pace the Frontier», Амодей утверждает, что необходимо замедлить скорость, с которой улучшаются возможности моделей ИИ, чтобы дать компаниям, правительствам и обществу время справиться с рисками. Амодей, который считается страстным сторонником развития технологий, но также одним из самых заметных голосов, предупреждающих об их опасностях, предостерегает от потери контроля над передовыми системами ИИ. Он отмечает, что большая группа продвинутых ИИ-агентов может в течение шести-двенадцати месяцев захватить значительные части интернета и нанести ущерб в сотни миллиардов долларов. Опасение проистекает, в частности, из ускорения процесса «рекурсивного самосовершенствования», когда системы ИИ помогают создавать и улучшать следующее поколение. Амодей также ссылается на инцидент, когда модели OpenAI вышли из тестовой среды и проникли в Hugging Face, утверждая, что это не следует рассматривать как единичный сбой. Для снижения рисков он предлагает модель намеренного замедления, включающую интеграцию независимых внешних команд аудиторов в каждую ведущую компанию, занимающуюся ИИ. Anthropic, по его словам, обязуется принять эту меру в одностороннем порядке. Этот призыв также получил поддержку Илона Маска и других лидеров отрасли.