טעות בינה מלאכותית כמעט הובילה את ארה"ב לעימות עם סין

ארה"ב כמעט פתחה במבצע צבאי ליירוט ספינה סינית במזרח התיכון עקב דו"ח מודיעין שגוי שהוכן בעזרת בינה מלאכותית. הצ'אטבוט זיהה באופן שגוי את אופי המטען, וטעה לחשוב שמדובר ברכיבים של תוכנית גרעינית. המבצע הופסק ברגע האחרון לאחר בדיקה נוספת של הנתונים.

ארה"ב כמעט פתחה במבצע צבאי ליירוט ספינה סינית במזרח התיכון עקב דו"ח מודיעין שגוי שהוכן בעזרת בינה מלאכותית. לפי CNN, המצטטת ארבעה מקורות, הצבא האמריקאי התייחס למידע ברצינות כה רבה עד שהחל בהכנות ליירוט: חיילים חמושים היו אמורים לעלות על הספינה, ומטוסים צבאיים כבר היו באוויר. המבצע הופסק זמן קצר לפני תחילתו, כאשר פקידים בחנו שוב את הדו"ח וגילו שאנליסט מפיקוד המבצעים המיוחדים השתמש בצ'אטבוט. הבינה המלאכותית זיהתה באופן שגוי את אופי החומרים שהובלה הספינה הסינית. מקור אחד תיאר את המידע כשקרי לחלוטין, ומקור אחר הצהיר שהאירוע כמעט הוביל למלחמה. האנליסט קיבל מידע על המטען מפיקוד המבצעים המיוחדים של האוקיינוס השקט בהוואי והעביר אותו לצ'אטבוט. הבינה המלאכותית שילבה את הנתונים הראשוניים עם מקורות פתוחים ומידע מודיעיני מסווג, ולאחר מכן הגיעה למסקנה שגויה. לאחר מכן, האנליסט השתמש שוב בבינה מלאכותית כדי להכין דו"ח מודיעין סטנדרטי, שהופץ בקרב הצבא. האירוע התרחש על רקע ההטמעה המהירה של בינה מלאכותית בצבא ובסוכנויות המודיעין של ארה"ב. מקורות מציינים כי אין מערכת אחידה לאימות מידע שהושג באמצעות בינה מלאכותית, ומקרה זה אינו הדוגמה היחידה ל"הזיות" של בינה מלאכותית בקהילת המודיעין.

טעות בינה מלאכותית כמעט הובילה את ארה"ב לעימות עם סין