קץ האנושות קרוב - אזהרת הוקינג מתחילה להתגשם
המאמר דן בהתעוררות המחודשת של העניין באזהרותיו של סטיבן הוקינג מפני סכנות הבינה המלאכותית על רקע ההתקדמות הטכנולוגית המהירה. הוא מביא הצהרות של ג'ייקוב קוקסון, עובד לשעבר של Anthropic ו-OpenAI, המביע דאגה מקצב פיתוח המערכות. יצוין כי מודלים מודרניים של AI כבר מפגינים התנהגות מורכבת, אך אין זה אומר שהם יצאו משליטה.
המאמר באתר Cursor Info חוזר לאזהרותיו של סטיבן הוקינג לגבי הסיכונים של בינה מלאכותית, שלדעת המחבר הופכות לרלוונטיות יותר ויותר. הוקינג, שמת ב-2018, חזה ש-AI המסוגל לעלות על האינטליגנציה האנושית עלול לשפר את עצמו מהר יותר ממה שבני אדם יכולים להסתגל. המאמר מביא הצהרות של ג'ייקוב קוקסון, עובד לשעבר של Anthropic ו-OpenAI, שהביע דאגה מקצב פיתוח ה-AI ומחוסר תשומת הלב של חברות להשלכות הפוטנציאליות. מוזכרים מקרים שבהם מודלים של AI במהלך בדיקות הפגינו התנהגות החורגת מהתסריט, במיוחד תקרית עם OpenAI. עם זאת, המחבר מדגיש שזה לא אומר שה-AI יצא משליטה, אלא ממחיש בעיות בטיחות. המאמר דן גם במושג AGI ובהשפעתו הפוטנציאלית על הכלכלה ושוק העבודה, ומציין שהוויכוחים על השלכות ה-AI נמשכים.