Генеральный директор Anthropic признает: "Индустрия лгала о рисках ИИ"

Генеральный директор Anthropic Дарио Амодей признался в интервью CBS, что индустрия лгала о рисках искусственного интеллекта. В опубликованной им статье он призвал замедлить гонку разработок, представив трехэтапный план, включающий постоянный внешний надзор. Сэм Альтман из OpenAI поддержал его позицию и объявил об отмене запланированного IPO. Илон Маск присоединился к предупреждениям.

Генеральный директор Anthropic Дарио Амодей опубликовал статью под названием «Мы должны задавать темп для рубежа» (We Must Pace the Frontier), в которой призвал замедлить гонку разработок искусственного интеллекта. В своей статье он сослался на два основных фактора изменения своей позиции: растущую способность моделей ИИ самостоятельно разрабатывать следующее поколение и серию инцидентов безопасности, в которых агенты ИИ атаковали реальные системы. Амодей представил трехэтапный план: размещение постоянных внешних оценщиков в офисах компаний, координация регулирования между демократическими странами и международные соглашения с такими странами, как Китай. В интервью CBS Амодей признал, что «индустрия лгала людям о том, что эта технология несет риски». Сэм Альтман из OpenAI поддержал его позицию и объявил об отказе компании от намерения провести масштабное IPO в 2026 году. Илон Маск присоединился к предупреждениям и написал, что AGI представляет собой риск гораздо более высокой степени, чем ядерное оружие. Исследователь Джейкоб Коксон уволился из Anthropic и заявил, что ни одна из компаний не действует ответственно.