סין, איראן וקבוצות ישראליות מנשקות בינה מלאכותית לקמפיינים ראשונים מסוגם להשפעה ברשתות החברתיות

חקירה של הניו יורק טיימס חושפת כי קבוצות בחסות מדינה בסין ובאיראן, לצד שתי חברות פרטיות ישראליות, השתמשו במודלים של בינה מלאכותית בקוד פתוח ליצירת בוטים אוטונומיים שניהלו קמפיינים רחבי היקף להשפעה בפלטפורמות מדיה חברתית, וסימנו ראשון מסוגו במניפולציה מבוססת AI של השיח המקוון. הקמפיינים כוונו לפלטפורמות כמו אינסטגרם, פייסבוק, X/טוויטר וטיקטוק, כאשר גורמים אמריקאים ציינו זאת כדוגמה חלוצית לשימוש במודלים סיניים של AI בכל שלב של מבצע השפעה.

חקירה של הניו יורק טיימס חושפת כי קבוצות בחסות מדינה בסין ובאיראן, יחד עם שתי חברות פרטיות ישראליות, השתמשו במודלים של בינה מלאכותית בקוד פתוח ליצירת סוכני תוכנה אוטונומיים שהפעילו אלפי חשבונות מזויפים במדיה החברתית. סוכני AI אלה, שנבנו על מודלים סיניים בקוד פתוח כמו DeepSeek, נפרסו בפלטפורמות כולל אינסטגרם, פייסבוק, X/טוויטר וטיקטוק. גורמים אמריקאים אמרו ל-NYT כי זהו אחד המקרים הראשונים שבהם מודלים סיניים של AI שימשו לטיפול בכל שלב של קמפיין השפעה מקוון — מיצירת חשבונות מזויפים ועד תיאום מסרים ומסגור. קהילת המודיעין האמריקאית ייחסה את הקמפיינים לקבוצות סיניות ואיראניות בחסות מדינה, וכן לשתי חברות פרטיות ישראליות. אחת מהן, IntelEye, חברה מתל אביב שהוקמה על ידי עובדים לשעבר של NSO Group, הפעילה כ-1,000 חשבונות מזויפים מבוססי AI כדי לתמרן את השיח הפוליטי סביב הבחירות הקרובות בישראל. IntelEye חלקה על האפיון, וטענה כי היא עורכת מחקר הגנתי כדי לחשוף חולשות במערכות AI. Meta אמרה כי הסירה את הרוב המכריע של סוכני ה-AI מהפלטפורמות שלה. הדו"ח מגיע על רקע אזהרות רחבות יותר של מנהיגי AI לגבי הסיכונים שבפיתוח AI מהר מדי ללא אמצעי בטיחות נאותים.

סין, איראן וקבוצות ישראליות מנשקות בינה מלאכותית לקמפיינים ראשונים מסוגם להשפעה ברשתות החברתיות