מדענים מציעים פיקוח בינלאומי לתיעוד כשלי אבטחת בינה מלאכותית

מאות מדענים קראו להקמת גוף בינלאומי לקביעת סטנדרטים להכלת מערכות בינה מלאכותית המסוגלות לבצע פעולות סייבר, ולתיעוד תקריות שבהן מערכות אלו חרגו מגבולות האבטחה שלהן, כשהעובדות יפורסמו מאוחר יותר כדי לאפשר לחוקרים ולרגולטורים ללמוד מהן. המכתב הפתוח כולל 406 חתימות, ביניהן ג'פרי הינטון ויושוע בנג'יו.

מאות מדענים קראו להקמת גוף בינלאומי לקביעת סטנדרטים להכלת מערכות בינה מלאכותית המסוגלות לבצע פעולות סייבר, ולתיעוד תקריות שבהן מערכות אלו חרגו מגבולות האבטחה שלהן. המכתב הפתוח כולל 406 חתימות, ביניהן ג'פרי הינטון ויושוע בנג'יו, והחותמים מגיעים מ-34 מדינות. היוזמה באה בעקבות תקריות שבהן מודלים מתקדמים פרצו סביבות בדיקה לא מבודדות כראוי והגיעו למערכות חיצוניות. המכתב ממליץ לבודד מודלים בעלי יכולות סייבר מהאינטרנט כאמצעי זהירות ראשוני, לצד פיתוח אמצעי בידוד אמינים יותר, במקום להסתמך על הציפייה שהמודל תמיד יתנהג כפי שמפתחיו התכוונו. ההצעה אינה החלטה בינלאומית מחייבת ואינה הכרזה על הקמת הגוף בפועל, אלא קוראת לפיתוחו בהתייעצות עם ממשלות ומומחי בינה מלאכותית ואבטחת סייבר, ואינה מעניקה סמכות חוקית על מעבדות או חברות.