חוקר AI בכיר שהתפטר מאנת'רופיק: "מהמרים על החיים שלנו"
חוקר AI בכיר באנת'רופיק, ג'ייקוב קוקסון, התפטר והודיע על עזיבה מוחלטת של תחום הבינה המלאכותית, תוך אזהרה מפני פיתוח מערכות בלתי נשלטות בעלות יכולת שיפור עצמי שעלולות לסכן את האנושות.
ג'ייקוב קוקסון, חוקר בכיר בחברת אנת'רופיק המתמחה בבינה מלאכותית, התפטר והודיע כי יעזוב לחלוטין את תחום הבינה המלאכותית. כך דיווח אתמול (שלישי) עיתון "וול סטריט ג'ורנל". המהלך התרחש בתקופה רגישה עבור החברה, שנמצאת בתהליכי הנפקה מתקדמים. קוקסון פרסם פוסט ארוך ברשת X, בו הצהיר כי הוא "מודאג מכך שענקיות הטכנולוגיה ממהרות לפתח מערכות בלתי נשלטות עם יכולות שיפור עצמי". הוא טען כי הוא עוזב את החברה משום שאינו רוצה להשתתף במרוץ לבניית מערכות שיכולות לשפר את עצמן, ומתוך חשש שמערכות כאלו יוכלו לצאת משליטה ולהשמיד את האנושות. קוקסון עבד בעבר ב-OpenAI והצטרף לאנתרופיק מוקדם יותר השנה, ועסק באימון מקדים ועיבוד נתונים עבור מודלים בחזית השוק. עזיבתו, כמומחה מרכזי לנתונים, צפויה להשפיע על אופטימיזציית זרם הנתונים ועל קצב האימון של מודלים מהדור הבא כמו קלוד 4. "אל תמעיטו בערכה של כוחה של טכנולוגיה זו", אמר קוקסון. "אלה יהיו בקרוב מערכות על-אנושיות שמסוגלות לפרוץ לכל דבר, להפוך ללא היכר כל תחום בן לילה, ולרכוש כוח אמיתי ומשאבים". הוא הוסיף: "האנשים שבונים AI מאמינים בתקיפות שהוא עלול להרוג את כולנו עד סוף העשור. זה לא תעלול שיווקי".