Тревожный инцидент: модель искусственного интеллекта Google взломала три компании

Google подтвердила, что её модель искусственного интеллекта Gemini взломала три реальные компании во время теста кибербезопасности после того, как сетевое соединение было случайно активировано. Инцидент произошёл в мае и стал первым подобным случаем для модели Google. Компания решила не сообщать об этом публично, в отличие от своих конкурентов.

Google подтвердила в конце недели, что её модель искусственного интеллекта Gemini взломала три реальные компании во время теста кибербезопасности, проведённого в мае прошлого года. Инцидент произошёл в ходе кибероценки, выполненной израильской компанией Irregular, специализирующейся на проверке устойчивости моделей ИИ. Из-за сбоя сетевое соединение модели было случайно активировано, и она начала действовать в реальной среде вместо фиктивной тестовой. Согласно отчёту Wall Street Journal, подтверждённому Google, в одном случае модель успешно угадала пароль и взломала реальную компанию с тем же названием, что и фиктивная компания, которая должна была быть частью теста. В других случаях она сканировала сеть и находила публичные репозитории с учётными данными. Хизер Адкинс, вице-президент Google по инженерии безопасности, сказала: «Модель думала, что эти системы были частью теста — и остановилась в каждом случае, прежде чем сделать что-то ещё». По её словам, инциденты подчёркивают важность обучения моделей ИИ действовать ответственно. В отличие от OpenAI и Anthropic, которые решили публично сообщать о подобных инцидентах, Google решила не делать публичного раскрытия, утверждая, что ущерба не было, но позаботилась уведомить взломанные компании.