"כמעט פתח מלחמה": מטוסי הקרב של ארה"ב כבר היו באוויר - ואז נחשפה טעות ה-AI

דו"ח מודיעיני שגוי שהופק בסיוע בינה מלאכותית כמעט הוביל את צבא ארה"ב לתקוף ספינה סינית במזרח התיכון, במהלך המלחמה מול איראן. התקרית נחשפה על ידי רשת CNN, ומעלה שאלות על הסתמכות על AI במודיעין צבאי.

דו"ח מודיעיני שגוי שהופץ באביב האחרון בצבא ארצות הברית, בעיצומה של המלחמה מול איראן, כמעט הוביל לעימות צבאי בין ארה"ב לסין. על פי חשיפה של רשת CNN, הדו"ח קבע כי ספינה סינית ששטה במזרח התיכון נושאת רכיבים של תוכנית נשק גרעיני. הצבא האמריקני נכנס לפעולה מהירה והחל לתכנן יירוט של כלי השיט, ומטוסי קרב כבר היו באוויר. בדיקה ברגע האחרון חשפה כי הדו"ח היה שקרי לחלוטין, ומקורו בטעות של מערכת בינה מלאכותית. אנליסט הזין לצ'אטבוט נתונים מפיקוד המבצעים המיוחדים באוקיינוס השקט, והבוט שילב מודיעין גלוי עם מודיעין אותות סודי ביותר, והגיע למסקנה שגויה. לאחר מכן, האנליסט השתמש שוב ב-AI כדי לארוז את הממצאים לדו"ח רשמי, פורמט שזוכה לאמון אוטומטי. בכיר לשעבר בממשל האמריקני ביקר בחריפות את הכלים הפנימיים, אותם תיאר כעותקים של מוצרים מסחריים. התקרית מעוררת שאלות קשות על השימוש הגובר ב-AI במודיעין ובשדה הקרב, ועל תופעת ההזיות של הבינה המלאכותית, שאינה אירוע מבודד בקהילת המודיעין. הלחץ לייצר מודיעין מהיר פותח פתח לטעויות, בעיקר בקרב אנליסטים צעירים הנוטים לסמוך על הכלים הטכנולוגיים ללא ביקורת מוקפדת.