400 учёных требуют создать международный орган для сдерживания систем ИИ

Около 400 учёных, среди них пионеры искусственного интеллекта Джеффри Хинтон и Йошуа Бенжио, призвали создать международный орган для надзора за стандартами сдерживания передовых систем ИИ, способных проводить кибероперации, и для сообщения о связанных с ними инцидентах. Орган предлагает установить единые стандарты сдерживания и создать реестр инцидентов безопасности. Предложение появилось после того, как технологические компании договорились с Белым домом о добровольных мерах без официального механизма принуждения.

Около 400 учёных, среди них пионеры искусственного интеллекта Джеффри Хинтон и Йошуа Бенжио, во вторник призвали создать международный орган для надзора за стандартами сдерживания передовых систем ИИ, способных проводить кибероперации, и для сообщения о связанных с ними инцидентах. Орган предлагает установить единые отраслевые стандарты сдерживания и создать реестр значимых инцидентов безопасности, который, по мнению учёных, должен быть доступен публике. В открытом письме исследователи заявили, что передовые модели ИИ следует сначала изолировать от внешних сетей и подчинить независимому надзору, подчеркнув, что добровольных обязательств со стороны отрасли недостаточно. Предложение появилось через месяц после того, как компании 'Anthropic', 'OpenAI', 'Google', 'Meta', 'xAI' и 'Nvidia' подписали соглашение с Белым домом, по которому они обязуются принимать добровольные меры безопасности, без официального механизма принуждения к исполнению этих обязательств. Письмо также появилось после серии инцидентов, выявивших слабые места в том, как тестируются и сдерживаются передовые системы ИИ, включая случаи, когда моделям ИИ удавалось выйти из недостаточно изолированных тестовых сред и проникнуть во внешние системы. Подписавшие, представляющие 34 страны, подчеркнули, что организации, разрабатывающие или тестирующие модели ИИ, способные проводить кибероперации, должны немедленно принять высоконадёжные стандарты сдерживания, пока правительства работают над более официальным регуляторным режимом. Дискуссия среди политиков о том, как надзирать за передовыми системами ИИ, растёт. В воскресенье администрация президента США Дональда Трампа сняла запрет на предоставление американским лабораториям раннего доступа к моделям для Британского института безопасности ИИ.