הוקינג הזהיר מפני בינה מלאכותית לפני מותו – ממה הוא חשש
המאמר מספר על אזהרותיו של סטיבן הוקינג מפני האיומים של בינה מלאכותית על-אנושית. המדען חשש שבינה מלאכותית המסוגלת לשיפור עצמי תעלה על האדם, ומטרותיה עלולות לא להתאים לאינטרסים של האנושות. הוקינג קרא לשליטה בפיתוח הבינה המלאכותית והזהיר מפני סיכוני נשק אוטונומי.
המאמר מספר על אזהרותיו של סטיבן הוקינג מפני האיומים הכרוכים בפיתוח בינה מלאכותית. המדען חשש שבינה מלאכותית על-אנושית, המסוגלת לשיפור עצמי עצמאי, עלולה לעלות על האדם במהירות הפיתוח. לדברי הוקינג, הסכנה העיקרית אינה בזדוניות של מכונות, אלא בחוסר התאמה של מטרותיהן לאינטרסים של האנושות. הוא קרא להבטיח מראש שמשימות הבינה המלאכותית תואמות את בטיחות בני האדם. הוקינג גם הזהיר מפני איום מערכות נשק אוטונומיות וקרא להסדרה נוקשה שלהן. בספרו "תשובות קצרות לשאלות גדולות" הוא הותיר קריאה לגישה אחראית בפיתוח טכנולוגיות. המאמר מתייחס לנאום המדען באוניברסיטת קיימברידג' ולפרסום של Wion.