Две главные угрозы от ИИ – о чем предупредил глава OpenAI
Глава OpenAI Сэм Альтман обозначил два катастрофических сценария развития ИИ: потеря контроля над будущими системами и чрезмерная концентрация власти в руках одного человека или корпорации. Заявление прозвучало в ответ на эссе главы Anthropic Дарио Амодеи, предложившего план замедления развития мощнейших моделей. Альтман поддержал инициативу, призвав к единым стандартам безопасности.
Глава OpenAI Сэм Альтман публично обозначил два катастрофических сценария развития искусственного интеллекта, которых человечество должно избежать любой ценой. Первый — потеря контроля над будущими системами ИИ, когда методы согласования алгоритмов с человеческими ценностями не будут успевать за развитием технологий. Второй — чрезмерная концентрация сверхмощного ИИ в руках одного человека или корпорации, что может привести к навязыванию узкого видения мира и построению антиутопического общества. Заявление прозвучало после публикации программного эссе главы Anthropic Дарио Амодеи «We Must Pace the Frontier», в котором он предложил комплексный план по снижению темпов совершенствования мощнейших моделей ради защиты общества от непредсказуемых рисков. Альтман публично поддержал инициативу коллеги в соцсети X, отметив необходимость регулирования скорости прогресса. Он подчеркнул, что OpenAI уже внедряет превентивные меры безопасности, включая углубленный анализ рисков перед запуском обучения передовых систем. Альтман уточнил, что под «замедлением» не подразумевается полная остановка науки — прогресс продолжится, но станет более размеренным и контролируемым, а оправданная цена за дополнительную безопасность пойдет на пользу всему миру.