"אפשר להציף את הרשת": כך AI מאיים לשנות את הבחירות
דו"ח של חברת אנתרופיק חושף מבצע השפעה פוליטי במלזיה, שבו שימש מודל הבינה המלאכותית Claude ליצירת רשת של כ-1,000 חשבונות מזויפים, אתר חדשות פיקטיבי ומסמכים מפוברקים, בניסיון להשפיע על מצביעים בבחירות האחרונות. מומחים מזהירים כי AI מאפשר הפצת דיסאינפורמציה בהיקפים חסרי תקדים.
דו"ח של חברת הבינה המלאכותית אנתרופיק, שפורסם בספטמבר, חושף מבצע השפעה פוליטי נרחב במלזיה, שבו נעשה שימוש במודל Claude ליצירת תשתית שלמה להפצת דיסאינפורמציה. המבצע כלל רשת של כ-1,000 חשבונות מזויפים ברשת X, אתר חדשות פיקטיבי בשם "Malaysia Pulse" וסדרת מסמכים מפוברקים. לפי החברה, המבצע נועד להשפיע על מצביעים בבחירות האחרונות במלזיה, תוך ניצול שסעים רגישים בחברה המלזית סביב סוגיות של גזע, דת ומלוכה, בכל 222 מחוזות הבחירה בפרלמנט. המבצע נכשל לאחר התערבות אנתרופיק, אך חשיפתו עוררה חשש כבד בקרב מומחים לגבי השימוש ב-AI במערכות בחירות עתידיות בדרום-מזרח אסיה. האתר המזויף העתיק דיווחים אמיתיים מכלי תקשורת מלזיים וכתב אותם מחדש תחת שמות כתבים פיקטיביים, וכן פרסם מחדש כתבות מכלי תקשורת זרים המזוהים עם רוסיה וסין תוך הסרת הייחוס למקור. מומחים מציינים כי AI הופך את תהליך הפצת הדיסאינפורמציה לפשוט ומהיר בהרבה, ומאפשר ליצור תוכן מותאם אישית בהיקפים חסרי תקדים.