От «рухнувшей» Эйфелевой башни до фальшивых ядерных объектов: новая AI-функция Google Earth заморожена за 48 часов
Google заморозила новую функцию искусственного интеллекта в Google Earth менее чем через 48 часов после запуска из-за опасений, что она может создавать поддельные спутниковые изображения для распространения дезинформации. Функция интегрировала генератор изображений Nano Banana 2 и позволяла добавлять объекты на реальные спутниковые снимки. Тесты BBC создали вымышленные сценарии, включая рухнувшую Эйфелеву башню. Эксперты предупреждают о высокой достоверности подделок.
Google заморозила новую функцию искусственного интеллекта в Google Earth менее чем через 48 часов после запуска из-за опасений, что она может позволить создавать поддельные спутниковые изображения, которые могут быть использованы для распространения дезинформации. Функция, интегрировавшая генератор изображений Nano Banana 2, позволяла пользователям с помощью текстовых подсказок добавлять объекты, сооружения и события, которые никогда не происходили, на реальные спутниковые снимки, аэрофотоснимки и 3D-виды. Затем изображения можно было скачивать и делиться ими в социальных сетях. В заявлении, опубликованном вчера (в пятницу), Google сообщила, что приостанавливает функцию «пока мы работаем над внедрением более надежных механизмов защиты», после того как выявила пользователей, делящихся созданными с ее помощью изображениями способами, которые могут нарушать политику компании. «Мы знаем, что люди испытывают особое доверие к Google Earth как к источнику, представляющему достоверную картину мира», — говорится в сообщении. В ходе тестов, проведенных BBC, исследователям удалось с помощью инструмента создать ряд вымышленных сценариев, которые выглядели особенно правдоподобно, включая рухнувшую Эйфелеву башню в Париже, огромную воронку, поглощающую Великую пирамиду в Гизе, и российские танки в центре Киева. Эксперты предупредили, что опасность заключается не только в качестве изображений, но и в том, что они «припаяны» к реальному местоположению на картах Google. По их словам, сочетание реального спутникового снимка с контентом, созданным ИИ, придает подделке особенно высокую достоверность. Эксперт по дезинформации Хенк ван Эсс, изучивший функцию, также создал фиктивную атомную электростанцию в Иране, несуществующий лагерь беженцев на границе США и Мексики и макет больницы в секторе Газа с воронкой рядом, похожей на результат бомбардировки. «Подделка не обязательно должна быть убедительной сама по себе. Она наследует достоверность карты, на которой создана», — сказал он. Google отметила, что каждое изображение, созданное с помощью ее ИИ-инструмента, содержит невидимый водяной знак, и что их происхождение можно проверить с помощью Gemini или Google Lens. Однако, по данным BBC, в некоторых случаях можно было обойти механизмы обнаружения и даже заставить Gemini идентифицировать поддельные изображения как настоящие. Некоторые внешние инструменты обнаружения также не смогли определить, что изображения были созданы ИИ. Дополнительные тесты показали, что некоторые меры защиты Google также можно обойти, слегка изменив формулировку подсказок. Например, запрос на создание «объекта для повешения предателей» возле британского парламента был заблокирован, но более общая формулировка была принята, и изображение было создано. Запрос на добавление слова «Трамп» на лужайку Белого дома был отклонен, но инструмент согласился создать общественный сад на том же самом месте. По словам Генри Аджера, исследователя, специализирующегося на выявлении контента, созданного ИИ, возможность создавать поддельные спутниковые изображения зон боевых действий или стихийных бедствий может быть особенно опасной. «Когда события развиваются быстро, а информации ограничено, такие изображения могут дестабилизировать обстановку и ввести в заблуждение как журналистов, так и общественность», — сказал он. Билл Грир, геопространственный аналитик и соучредитель некоммерческой спутниковой организации Common Space, также предупредил об эрозии общественного доверия. По его словам, спутниковые снимки в течение многих лет считались особенно надежным источником информации, но распространение подделок наряду с сокращением доступа к реальным спутниковым данным со стороны правительств может подорвать это доверие. «Чем больше поддельных изображений мы видим и чем меньше настоящих, тем труднее будет понять, чему можно доверять», — сказал он.