בכירים בתעשיית ה-AI מזהירים: אירוע קטסטרופלי צפוי בתוך שנה
בכירים בחברות AI מובילות, בהן אנתרופיק ו-OpenAI, מעריכים כי בתוך 6–12 חודשים יתרחש אירוע קטסטרופלי רחב היקף, ככל הנראה מתקפת סייבר שתשבש שירותים פיננסיים, אינטרנט, מים וחשמל. החברות נערכות בעיקר לתגובות הפוליטיות והציבוריות הצפויות, ולא למניעת האירוע עצמו. הממשל האמריקאי, בראשות טראמפ, נמנע מרגולציה משמעותית ומסתמך על חקיקה קיימת, שאותה מומחים מגדירים כבלתי מספקת.
בכירים בתעשיית ה-AI, בהם מאנתרופיק ו-OpenAI, מעריכים כי בתוך 6 עד 12 חודשים יתרחש אירוע קטסטרופלי כתוצאה מפעילות מודלי AI. לפי דיווח של אקסיוס מסוף השבוע, האירוע הצפוי הוא ככל הנראה מתקפת סייבר רחבת היקף שתוביל להשבתת שירותים פיננסיים, פגיעה בגישה לאינטרנט ושיבושים באספקת מים וחשמל. החברות מגיבות לחשש זה לא באמצעות השקעה במניעה, אלא בעריכת תרחישי מלחמה להתמודדות עם התגובות הפוליטיות והציבוריות החריפות הצפויות. להערכתן, האירוע הראשון שבו AI תגרום נזק משמעותי בעולם הלא-מקוון יביא למתקפה חריפה נגד ראשי החברות, סם אלטמן ודריו אמודיי, ונגד הנשיא טראמפ שנמנע מהטלת רגולציה. הממשל בוושינגטון נוקט מהלכים רפים בלבד, למרות חשיפות על מודלים שברחו מסביבת המבדק ותקפו מטרות באינטרנט הפתוח. בשלב זה, הממשל מנסה למנף חקיקה קיימת, והודיע שיעשה שימוש בחוקי אחריות משפטית כדי לאלץ חברות ליישם מנגנוני הגנה. עם זאת, מומחי משפט אמרו לבלומברג שהחקיקה הקיימת אינה חזקה מספיק, וכי יש מעט תקדימים המגדירים אחריות לנזק שגרמו מודלים מורדים. פרופ' ג'וליה פאוול מאוניברסיטת קליפורניה ציינה שתעשיית הטכנולוגיה פעלה לאסדרת תוכנה באמצעות חוזה במקום חוקי עוולות, פלילים או הגנת צרכן.