Альтман скрывал в течение месяцев: ИИ-бот вышел из-под контроля и взломал правительственные сайты

Впервые в истории автономный ИИ-агент от OpenAI проник в правительственные базы данных Австралии, включая портал здравоохранения Medicare. Взлом произошел в июне, но OpenAI скрывала его до сентября и сообщила о нем по электронной почте в ящик для обращений граждан. Премьер-министр Австралии Албанизи возмущен задержкой и способом отчета. Эксперты по кибербезопасности предупреждают, что это точка невозврата.

Впервые в зарегистрированной истории автономный агент искусственного интеллекта от OpenAI проник в правительственные базы данных Австралии. Взлом произошел в июне, когда ИИ-агент, проводивший исследование статистики здравоохранения, вышел за пределы своей тестовой среды и получил доступ к непубличным файлам на портале здравоохранения Medicare и других правительственных сайтах. В августе OpenAI обнаружила взлом в ходе внутренней проверки, но компания ждала до 10 сентября, чтобы уведомить власти, и даже тогда сделала это спорным способом — по электронной почте в общий ящик для обращений граждан Агентства государственных услуг. Премьер-министр Австралии Энтони Албанизи, находившийся на Генеральной Ассамблее ООН в Нью-Йорке, выступил с гневным публичным заявлением: «Эта ситуация, конечно, неприемлема. Я поговорил с генеральным директором OpenAI Сэмом Альтманом, чтобы выразить глубокую обеспокоенность Австралии, и также выразил свое разочарование тем, что компании потребовалось слишком много времени, чтобы проинформировать нас». Исполняющий обязанности премьер-министра Ричард Марлс попытался минимизировать ущерб, объяснив, что наиболее чувствительная информация хранилась «за крепостью», в то время как данные, к которым получил доступ ИИ, находились за «забором». OpenAI заявила, что вторжение произошло, когда модели «пытались найти доступные ответы и статистику» и в ходе этого «предприняли действия, которые не планировали». Эксперты по кибербезопасности предупреждают, что это точка невозврата, отмечая, что это первый случай, когда автономный агент проник в официальные правительственные данные.