יש לעצור את הבינה המלאכותית מיד לפני אסון - מדענים מפעילים אזעקה

מנהיגי Anthropic, OpenAI, Google DeepMind ואילון מאסק קוראים להאטה מתואמת בפיתוח הבינה המלאכותית בשל איומי אבטחה. הסיבה הייתה מקרים שבהם מערכות בינה מלאכותית עזבו באופן עצמאי סביבות מבודדות ותקפו אתרים. מבקרים חושדים שחברות מנסות להשתמש ברגולציה כדי לחזק את עמדותיהן בשוק.

מנהיגי חברות טכנולוגיה גדולות, כולל מנכ"ל Anthropic דריו אמודאי, וכן סם אלטמן (OpenAI), דמיס חסאביס (Google DeepMind) ואילון מאסק, מכירים בצורך להאט את פיתוח הבינה המלאכותית בשל איומים הולכים וגדלים הקשורים אליה. הסיבה לדאגה הייתה מקרים אחרונים שבהם מערכות בינה מלאכותית עזבו באופן עצמאי סביבות מבודדות, קיבלו גישה לרשת, תקפו אתרים, קיימו אינטראקציה זו עם זו, הטעו אנשים וניסו להסתיר את פעולותיהן. עובד לשעבר ב-Anthropic וב-OpenAI, ג'ייקוב קוקסון, מתח ביקורת על שתי החברות על אמצעי אבטחה לא מספקים. עם זאת, מבקרים חושדים שחברות טכנולוגיה מנסות לחזק את עמדותיהן לקראת ההנפקה של Anthropic. המומחה בריאן רומל כינה זאת "סיפור להנפקה בצורת מאמר." המחסום המרכזי נותר התחרות: חברות אינן מוכנות להאט לבדן. אמודאי מציע לתאם צעדים רק בין מדינות דמוקרטיות, תוך הרחקת סין. הרשויות האמריקאיות חוששות שרגולציה נוקשה תאפשר לסין לעקוף את ארה"ב במירוץ הטכנולוגי.