400 מדענים דורשים גוף בינלאומי לרסן מערכות בינה מלאכותית
כ-400 מדענים, בהם חלוצי הבינה המלאכותית ג'פרי הינטון ויהושע בנג'יו, קראו להקים גוף בינלאומי שיפקח על תקני הכלה של מערכות בינה מלאכותית מתקדמות המסוגלות לבצע פעולות סייבר, ולדווח על תקלות הקשורות בהן. הגוף מציע לקבוע תקני הכלה אחידים ולהקים מרשם של תקלות אבטחה. ההצעה באה לאחר ש� חברות טכנולוגיה סיכמו עם הבית הלבן על צעדים וולונטריים ללא מנגנון אכיפה רשמי.
כ-400 מדענים, בהם חלוצי הבינה המלאכותית ג'פרי הינטון ויהושע בנג'יו, קראו ביום שלישי להקים גוף בינלאומי שיפקח על תקני הכלה של מערכות בינה מלאכותית מתקדמות המסוגלות לבצע פעולות סייבר, ולדווח על תקלות הקשורות בהן. הגוף מציע לקבוע תקני הכלה אחידים ברמת הענף, ולהקים מרשם של תקלות אבטחה משמעותיות, שלו לדעת המדענים יש לאפשר גישה לציבור. במכתב פתוח ציינו החוקרים שיש לבודד תחילה מודלים מתקדמים של בינה מלאכותית מרשתות חיצוניות, ולהעמידם תחת פיקוח עצמאי, תוך שהם מדגישים שהתחייבויות וולונטריות מצד הענף אינן מספיקות. ההצעה באה חודש לאחר שחברות 'אנתרופיק', 'OpenAI', 'גוגל', 'מטא', 'xAI' ו'אנבידיה' חתמו על הסכם עם הבית הלבן, שלפיו הן מתחייבות לנקוט צעדי בטיחות וולונטריים, בלי מנגנון רשמי לאכיפת ההתחייבויות הללו. המכתב בא גם בעקבות שורה של תקלות שחשפו חולשות באופן שבו נבחנות ומוכלות מערכות בינה מלאכותית מתקדמות, כולל מקרים שבהם הצליחו מודלים של בינה מלאכותית לפרוץ מסביבות בדיקה מבודדות באופן בלתי מספק, ולחדור למערכות חיצוניות. החותמים, מ-34 מדינות, הדגישו כי מוסדות שמפתחים או בוחנים מודלים של בינה מלאכותית המסוגלים לבצע פעולות סייבר חייבים לאמץ מיד תקני הכלה בעלי מהימנות גבוהה, בעוד הממשלות פועלות לגיבוש משטר רגולטורי רשמי יותר. הדיון בקרב קובעי המדיניות حول אופן הפיקוח על מערכות בינה מלאכותית מתקדמות הולך ומתרחב. ביום ראשון הסירה ממשלת נשיא ארצות הברית דונלד טראמפ את האיסור על מתן גישה מוקדמת למעבדות אמריקאיות למודלים עבור המכון הבריטי לאבטחת בינה מלאכותית.