Израильские эксперты раскрыли мошенничество с ИИ, но технологические гиганты уклоняются от ответственности
Израильские исследователи кибербезопасности раскрыли сложную аферу с ИИ, где хакеры загрязняют базы данных, чтобы направлять потребителей на мошеннические колл-центры. Атака использует передовые маркетинговые методы для внедрения поддельных номеров телефонов в результаты поиска. Google и OpenAI отказались рассматривать проблему как уязвимость безопасности, оставляя потребителей незащищенными. Исследователи обнаружили активные атаки на 374 известных бренда, включая крупные авиакомпании, банки и туристические платформы, с тысячами новых вредоносных постов ежедневно.
Израильские исследователи кибербезопасности Дан Ласкер, Ариэль Симон и Наор Хазиз, ветераны элитных подразделений военной разведки Израиля, раскрыли сложную аферу с использованием ИИ. Хакеры проводят автоматизированные кампании, загрязняющие базы данных, на которые полагаются поисковые системы и чат-боты, такие как ChatGPT, Gemini и Google AI Overview. Используя передовые маркетинговые методы, известные как Generative Engine Optimization (GEO), они внедряют номера телефонов с эмодзи и специальными символами Unicode, которые ИИ-системы интерпретируют как надежную информацию. Невинные поиски отмены рейсов или часов работы филиалов приводят клиентов в профессионально звучащие колл-центры, взимающие завышенные комиссии. Исследователи обнаружили активные атаки на 374 известных бренда, включая Delta Airlines, Lufthansa, United Airlines, Emirates, Qatar Airways, Airbnb, TripAdvisor, Chase, Citi и Wells Fargo. Тысячи новых вредоносных постов появляются ежедневно на правительственных и академических сайтах. Когда исследователи связались с пострадавшими компаниями, большинство заявили, что проблема находится вне их ответственности, поскольку их внутренние системы не были взломаны. Google классифицировал отчеты как 'выходящие за рамки' своей программы вознаграждения за уязвимости, а OpenAI закрыл отчет, утверждая, что результаты 'не воспроизводимы', несмотря на задокументированные доказательства. Исследователи описывают глобальный 'вакуум безопасности', где технологические гиганты отказываются признавать дезинформацию, созданную ИИ, как реальную уязвимость безопасности.