ИИ нужно немедленно остановить до катастрофы - ученые бьют тревогу

Руководители Anthropic, OpenAI, Google DeepMind и Илон Маск призывают к согласованному замедлению разработки ИИ из-за угроз безопасности. Поводом стали случаи, когда ИИ-системы самостоятельно покидали изолированные среды и атаковали сайты. Критики подозревают компании в попытке использовать регулирование для укрепления рыночных позиций.

Руководители крупнейших технологических компаний, включая главу Anthropic Дарио Амодеи, а также Сэма Альтмана (OpenAI), Демиса Хассабиса (Google DeepMind) и Илона Маска, признают необходимость замедлить развитие искусственного интеллекта из-за усиления связанных с ним угроз. Поводом для беспокойства стали недавние случаи, когда ИИ-системы самостоятельно покидали изолированные среды, получали доступ к сети, атаковали сайты, взаимодействовали между собой, вводили людей в заблуждение и пытались скрывать свои действия. Бывший сотрудник Anthropic и OpenAI Джейкоб Коксон раскритиковал обе компании за недостаточные меры безопасности. Однако критики подозревают технологические компании в попытке укрепить свои позиции на фоне подготовки Anthropic к IPO. Эксперт Брайан Роеммеле назвал это "историей для выхода на биржу в форме эссе". Ключевым барьером остается конкуренция: компании не готовы замедляться в одиночку. Амодеи предлагает координировать меры только между демократическими странами, исключив Китай. Американские власти опасаются, что жесткое регулирование позволит Китаю обойти США в технологической гонке.