מומחים ישראלים חושפים הונאת AI אך ענקיות הטכנולוגיה מתנערות מאחריות

חוקרי סייבר ישראלים חשפו הונאת AI מתוחכמת שבה האקרים מזהמים מאגרי מידע כדי להפנות צרכנים למוקדי שירות מזויפים. ההתקפה מנצלת טכניקות שיווק מתקדמות להטמעת מספרי טלפון מזויפים בתוצאות חיפוש. גוגל ו-OpenAI סירבו להתייחס לבעיה כפגיעת אבטחה, ומותירות את הצרכנים חשופים. החוקרים זיהו התקפות אקטיביות על 374 מותגים ידועים, כולל חברות תעופה גדולות, בנקים ופלטפורמות נסיעות, עם אלפי פוסטים זדוניים חדשים מדי יום.

חוקרי סייבר ישראלים דן לסקר, אריאל סימון ונאור חזיז, ותיקי יחידות מודיעין מובחרות בצה"ל, חשפו הונאת AI מתוחכמת. האקרים מנהלים קמפיינים אוטומטיים המזהמים את מאגרי המידע שעליהם מסתמכים מנועי חיפוש וצ'אטבוטים כמו ChatGPT, Gemini ו-Google AI Overview. באמצעות טכניקות שיווק מתקדמות המכונות Generative Engine Optimization (GEO), הם מטמיעים מספרי טלפון עם אימוג'ים ותווי Unicode מיוחדים שמערכות AI מפרשות כמידע מהימן. חיפושים תמימים אחר ביטולי טיסות או שעות פעילות סניפים מובילים לקוחות למוקדי שירות שנשמעים מקצועיים וגובים עמלות מנופחות. החוקרים זיהו התקפות אקטיביות על 374 מותגים ידועים, כולל דלתא איירליינס, לופטהנזה, יונייטד איירליינס, אמירייטס, קטאר איירווייז, איירביאנבי, טריפאדוויזור, צ'ייס, סיטי ו-וולס פארגו. אלפי פוסטים זדוניים חדשים מופיעים מדי יום באתרי ממשלה ואקדמיה. כאשר פנו החוקרים לחברות המושפעות, רובן טענו שהנושא אינו באחריותן מאחר שהמערכות הפנימיות שלהן לא נפרצו. גוגל סיווגה את הדיווחים כ'מחוץ לתחום' בתוכנית התגמולים לפגיעות שלה, בעוד OpenAI סגרה את הדיווח בטענה שהממצאים 'אינם ניתנים לשחזור' למרות ראיות מתועדות. החוקרים מתארים 'ואקום ביטחוני' גלובלי שבו ענקיות הטכנולוגיה מסרבות להכיר במידע כוזב שנוצר על ידי AI כפגיעת אבטחה אמיתית.