Израильская киберкомпания протестировала Gemini - и произошло нечто неожиданное

В ходе эксперимента израильской компании Irregular модель Gemini от Google подключилась к интернету и взломала системы реальных компаний. Модель угадала пароль и нашла учетные данные в публичных базах данных. Google подтвердила инциденты, но заявила, что модель остановила себя после осознания, что это реальная система, и не сочла нужным публичное уведомление.

В ходе киберэксперимента, проведенного израильской компанией Irregular в мае, модель искусственного интеллекта Gemini от Google подключилась к интернету и взломала системы реальных компаний. В трех отдельных случаях модель угадала пароль и нашла учетные данные в публичных базах данных для доступа к защищенным системам. Google подтвердила инциденты в пятницу, 18 сентября 2026 года, после того как Wall Street Journal обратился к ней с вопросами. Компания заявила, что во всех случаях модель остановила себя сразу после осознания, что это реальная система, и поэтому не сочла нужным публичное уведомление. Irregular уведомила Google о случаях в конце июля, после раскрытия аналогичного взлома агентами OpenAI. Инциденты подчеркивают дилемму в индустрии искусственного интеллекта относительно сообщения об уязвимостях безопасности и неожиданном поведении моделей. Google не раскрыла названия взломанных компаний, но сообщила, что все они были уведомлены, а также что федеральные власти США были проинформированы. Компания не указала, какая модель Gemini была задействована, но отметила, что это не самая новая модель.