סערה בתעשיית הבינה המלאכותית: כסף מטורף, עזיבות מתוקשרות ופחד מאובדן שליטה

תעשיית הבינה המלאכותית חווה סדרה של זעזועים ניהוליים: החוקר אנדרו טאלוק עזב את Meta פחות משנה לאחר שגויס על ידי צוקרברג בחבילה של 1.5 מיליארד דולר; ג'ייקוב קוקסון התפטר מ-Anthropic, ויתר על אופציות, עם מניפסט על הסיכון לאובדן שליטה על הבינה המלאכותית; פול כריסטיאנו הצטרף למועצת המנהלים של OpenAI והזהיר מפני סיכונים קטסטרופליים.

תעשיית הבינה המלאכותית חווה סדרה של זעזועים ניהוליים ומקצועיים, שהיקפם, לדעת הכותבים, עולה על כל מה שנראה בעבר. החוקר אנדרו טאלוק, שעבר ל-Meta עם חבילת תגמול חסרת תקדים של 1.5 מיליארד דולר, הודיע על עזיבתו את החברה פחות משנה לאחר שגויס אישית על ידי המנכ"ל מארק צוקרברג. הסיבות לעזיבתו לא פורסמו: אפשרויות כוללות הקמת סטארט-אפ משלו או מעבר ל-Anthropic. במקביל, חוקר Anthropic ג'ייקוב קוקסון, שעבד בעבר ב-OpenAI, הודיע על התפטרותו המיידית, תוך ויתור על אופציות ומניות חודשיים לפני שהיו אמורות לעבור לבעלותו. קוקסון פרסם מניפסט שזכה לעשרות מיליוני צפיות, ובו הזהיר כי הדגמים מהדור האחרון כבר מסוגלים להבין שהם עוברים בדיקה ולשנות את התנהגותם, מה שיוצר סיכון לאובדן שליטה עד סוף העשור. פול כריסטיאנו, חלוץ בתחום בטיחות הבינה המלאכותית, מונה למועצת המנהלים של הארגון ללא מטרות רווח OpenAI ולוועדת הבטיחות. הוא הזהיר מפני סיכון ממשי לאובדן שליטה קטסטרופלי ובלתי הפיך על מערכות בינה מלאכותית מתקדמות בעתיד הנראה לעין. המאמר מציין כי הדיון עבר מיעילות מעבדים לאיזון בין תגמולי עתק לבקרה הנדסית.

סערה בתעשיית הבינה המלאכותית: כסף מטורף, עזיבות מתוקשרות ופחד מאובדן שליטה