בנקים והאינטרנט תחת איום: חברות בינה מלאכותית נערכות לאסון
מפתחות הבינה המלאכותית הגדולות נערכות לאירוע רחב היקף אפשרי בתוך 6–12 החודשים הקרובים. לפי הערכות המומחים, התרחיש הסביר ביותר הוא מתקפת סייבר שעלולה לשבש את פעילות הבנקים, האינטרנט ומערכות החיים. OpenAI, Anthropic וחברות נוספות עורכות תרגילים המדמים מצבים שבהם הבינה המלאכותית יוצאת מכלל שליטה.
מפתחות הבינה המלאכותית הגדולות נערכות לאירוע חמור שלפי הערכותיהן עלול להתרחש בתוך 6–12 החודשים הקרובים. התרחיש הסביר ביותר, לפי המומחים, הוא מתקפת סייבר רחבת היקף שעלולה לשבש את פעילות הבנקים, האינטרנט ומערכות החיים. כך מדווח Axios. חברות OpenAI, Anthropic ומשתתפים נוספים בשוק עורכות תרגילים מיוחדים המדמים מצבים שבהם הבינה המלאכותית עלולה לצאת מכלל שליטה. תרגילים כאלה מאפשרים להעריך מראש את השלכות המשבר ולהכין אמצעי תגובה. האירוע הפוטנציאלי, כך מציין העיתון, עלול לעורר הד ציבורי רחב ולדחוף את הרשויות להנהיג כללים מחמירים יותר לתעשיית הבינה המלאכותית. חלק ממנהלי חברות הטכנולוגיה והחוקרים סבורים שההסתברות לאירוע כזה גבוהה למדי. הסיכון המרכזי הוא שימוש בבינה מלאכותית לארגון מתקפות סייבר רחבות היקף. השלכותיהן עלולות לפגוע לא רק במוסדות פיננסיים ובתשתיות האינטרנט, אלא גם במערכות אספקת החשמל והמים. המומחים שנשאלו אינם שוללים שהמשבר עלול להתרחש כבר בתוך השנה הקרובה. ב-OpenAI אישרו שהחברה מתרגלת תרחישים נפרדים במסגרת ההיערכות לאיומים. נציגי Anthropic סירבו להגיב על המצב. החששות מתגברים על רקע דיווחים על התנהגות בלתי צפויה של סוכני בינה מלאכותית: בספטמבר דווח על תקיפות של רשתות נוירונים של OpenAI על פורטלים של סוכנויות ממשלתיות בארה"ב ועל פריצה לאתר אוסטרלי הקשור לבריאות. העיתון מסתייג: מדובר בסיכון צפוי, ולא בתרחיש מאומת.