Anthropic предлагает американским законодателям закон «о регулировании искусственного интеллекта»

Компания Anthropic, разработчик помощника Claude, подтвердила, что распространяет среди американских законодателей законопроект о регулировании искусственного интеллекта. Предложение предоставляет федеральному правительству полномочия предотвращать выпуск моделей ИИ, представляющих неизбежный риск смерти или травм более 50 человек, или ущерба, превышающего 1 миллиард долларов, при условии судебного одобрения.

Компания Anthropic, разработчик помощника на основе искусственного интеллекта Claude, подтвердила в пятницу, что распространяет среди американских законодателей законопроект, направленный на регулирование искусственного интеллекта, на фоне отсутствия федерального законодательства, касающегося рисков, которые представляет эта новая технология. Согласно проекту, впервые раскрытому сайтом Politico, Вашингтон сможет предотвратить выпуск или использование любой модели ИИ в случае неизбежного риска смерти или серьезных травм более 50 человек, или причинения ущерба, превышающего 1 миллиард долларов, при условии получения судебного одобрения. Представитель компании заявил AFP, что предложение «дает федеральному правительству возможность предотвращать или сдерживать опасное развертывание самых мощных моделей ИИ», и добавил, что оно «требует от ведущих разработчиков в этой области тестировать свои самые мощные модели, быть прозрачными перед общественностью в отношении результатов этих тестов, подвергать модели независимым оценкам и поддерживать надежную программу безопасности». Политика США в области ИИ в настоящее время в основном опирается на добровольные обязательства компаний, работающих в этом секторе, в дополнение к исполнительным указам, направленным на поддержку процветания ИИ. Конгресс, политически разделенный и испытывающий интенсивное давление со стороны крупных технологических компаний, до сих пор не принял всеобъемлющего федерального закона.