אזהרות מפני אובדן שליטה אנושית: יוזמה של האו"ם להתמודדות עם סיכוני בינה מלאכותית צבאית

מכון האומות המאוחדות לחקר פירוק נשק (UNIDIR) מתכנן להשיק פורום בינלאומי לדיון בשימוש בבינה מלאכותית בתחומים צבאיים וביטחוניים, על רקע אזהרות מפני צמצום מרחב השיפוט האנושי במערכות צבאיות, כולל אלו הקשורות לנשק גרעיני. הפורום יושק בניו יורק בשותפות עם שוויץ ופקיסטן.

מכון האומות המאוחדות לחקר פירוק נשק (UNIDIR) מתכוון להשיק פורום בינלאומי חדש לדיון בשימושים בבינה מלאכותית בתחומים צבאיים וביטחוניים, על רקע אזהרות גוברות מפני היכולת הפוחתת של בני אדם לשלוט במערכות אלו, כולל אלו הקשורות לנשק גרעיני. הפורום יושק בניו יורק, בשותפות עם שוויץ ופקיסטן, במסגרת יוזמה שמטרתה לחזק את הדיאלוג הבינלאומי על סיכוני הבינה המלאכותית ולפתח מנגנונים להתמודדות עם שימושיה בתחומי השלום והביטחון. מנהל המכון, רובין גייס, הזהיר במהלך מסיבת עיתונאים של האו"ם כי המרחב הפנוי לשיפוט אנושי בפעולות צבאיות הולך ומצטמצם, וציין את הקושי לקבוע באיזה שלב עלולים בני אדם לאבד שליטה ממשית על מערכות אלו. חששות אלו עולים ככל שהשימוש בטכנולוגיות בינה מלאכותית מתרחב בפונקציות שקודמות לקבלת החלטות צבאיות, כגון מערכות התרעה מוקדמת, איסוף מידע וסיור, דבר שעלול להשפיע על המידע וההערכות שעליהן מתבססות החלטות אלו. הפורום יושק במסגרת "מרכז המצוינות לבינה מלאכותית, שלום וביטחון" שהקים המכון ביוני 2026, במטרה לספק פלטפורמה קבועה למחקר, דיאלוג והחלפת מומחיות.