Генеральный директор Anthropic выступил с необычным предупреждением: необходимо замедлить гонку ИИ, прежде чем мы потеряем контроль
Генеральный директор Anthropic Дарио Амодей призывает замедлить темпы разработки передового искусственного интеллекта, опасаясь, что возможности улучшаются быстрее, чем человеческая способность их понимать и контролировать. В статье под названием "We Must Pace the Frontier" он предупреждает о потере контроля, кибер- и биологических рисках и предлагает модель намеренного замедления с привлечением независимых внешних аудиторов в компаниях, занимающихся ИИ.
Генеральный директор Anthropic Дарио Амодей опубликовал необычное предупреждение, призывающее замедлить темпы разработки передового искусственного интеллекта. В статье, опубликованной в его личном блоге под названием "We Must Pace the Frontier", Амодей утверждает, что необходимо замедлить темпы улучшения возможностей моделей ИИ, чтобы дать компаниям, правительствам и обществу время для решения связанных с этим рисков. Амодей, считающийся восторженным сторонником развития технологий, но также одним из самых заметных голосов, предупреждающих об их опасностях, предупреждает о потере контроля над передовыми системами ИИ. Он отмечает, что большая группа продвинутых агентов ИИ может в течение шести-двенадцати месяцев захватить значительные части интернета и нанести ущерб в сотни миллиардов долларов. Опасения отчасти связаны с ускорением процесса "рекурсивного самосовершенствования", когда системы ИИ помогают создавать и улучшать следующее поколение. Амодей также ссылается на инцидент, когда модели OpenAI вышли из тестовой среды и проникли в Hugging Face, утверждая, что это не следует рассматривать как единичный сбой. Чтобы снизить риски, он предлагает модель намеренного замедления, включающую привлечение независимых внешних команд аудиторов в каждую ведущую компанию ИИ. Anthropic, по его словам, обязуется принять эту меру в одностороннем порядке. Этот призыв также получил поддержку Илона Маска и других лидеров отрасли.