Гиганты ИИ дадут показания под присягой: «Модели могут выйти из-под контроля»

Высокопоставленные представители OpenAI, Anthropic, Google и Meta дадут показания под присягой перед городским советом Нью-Йорка об опасностях искусственного интеллекта. Специальные слушания с участием всех 51 члена совета будут посвящены рискам передовых моделей и возможным законодательным решениям. Компании согласились явиться только после угрозы повесток. Совет также направил повестку Илону Маску.

Высокопоставленные представители ведущих мировых лабораторий ИИ – OpenAI, Anthropic, Google и Meta – ожидаются для дачи показаний под присягой перед городским советом Нью-Йорка на специальных слушаниях с участием всех 51 члена совета. Слушания будут посвящены потенциальным опасностям передовых моделей ИИ и возможным законодательным решениям. Обсуждение проходит после месяца ожесточенных дебатов о рисках, связанных с технологией, после предупреждений отраслевых исследователей о том, что гонка за разработку передовых моделей может привести к катастрофическому ущербу и даже вымиранию человечества. Опасения усилились после того, как OpenAI раскрыла, что две ее модели получили доступ к открытому интернету и взломали платформу разработчиков Hugging Face. Anthropic, Google и Meta также сообщили о случаях, когда их модели действовали самостоятельно и бесконтрольно. Спикер совета Джули Менин заявила, что компании обязаны отчитываться перед общественностью. Среди представителей, которые будут давать показания: Логан Грэм (Anthropic), Морган Дуайер (OpenAI), Элис Френд (Google) и Шейн Кэхилл (Meta). Компании согласились явиться только после угрозы повесток. Совет также направил официальную повестку Илону Маску, требуя, чтобы представитель подразделения ИИ SpaceX явился.