תחקיר WSJ מזעזע: יוצרי הבינה המלאכותית התכוננו לאפוקליפסה
תחקיר של וול סטריט ג'ורנל חושף שעובדי חברת Anthropic, שיצרה את מודל Claude, דנו ברצינות ברכישת חלקות אדמה מרוחקות למקלטים למקרה של אפוקליפסה טכנולוגית עקב בינה מלאכותית בלתי נשלטת. מייסדי החברה הושפעו מהפילוסופיה של 'אלטרואיזם אפקטיבי', אך נאלצים להאיץ את פיתוח הבינה המלאכותית כדי להישאר מובילי בטיחות. המאמר בוחן גם גישות שונות לרגולציית בינה מלאכותית באירופה, סין וישראל, כמו גם הגישה ההנדסית של Nvidia.
תחקיר של וול סטריט ג'ורנל, שסופר על ידי 'קורסור', חושף פרטים מדאיגים מתוך חברת Anthropic, שיצרה את מודל הבינה המלאכותית הפופולרי Claude. בשנותיה הראשונות, עובדי החברה דנו ברצינות ברכישת חלקות אדמה מרוחקות ליצירת מקלטים למקרה שבינה מלאכותית בלתי נשלטת תגרום נזק בלתי הפיך לאנושות. החברה נוסדה ב-2021 על ידי האחים דריו ודניאלה אמודאי, לשעבר עובדי OpenAI שעזבו עקב תשומת לב לא מספקת לבטיחות. המייסדים הושפעו מאוד מהפילוסופיה של 'אלטרואיזם אפקטיבי', המדגישה מניעת סיכונים קיומיים גלובליים. עם זאת, נוצר פרדוקס: כדי להישאר מובילי בטיחות, Anthropic חייבת להאיץ בעצמה את יצירת הרשתות העצביות החזקות יותר, ולהזין את המירוץ שעובדיה חוששים ממנו. המאמר בוחן גם גישות גלובליות שונות לרגולציית בינה מלאכותית: האיחוד האירופי מתמקד במסגרות חקיקה נוקשות, סין מכפיפה את פיתוח הטכנולוגיה לדרישות המפלגה, וישראל מתמקדת ביכולות הגנה. מנכ"ל Nvidia, ג'נסן הואנג, הצהיר שבטיחות בינה מלאכותית היא בעיה של מדעי המחשב, לא מורטוריום מוסרי. המאמר מסתיים בהשוואת המצב הנוכחי לעידן הגרעיני לאחר מלחמת העולם השנייה.