מפחיד יותר מאשר בסרטים: בינה מלאכותית יוצרת איום אמיתי על האנושות

המאמר דן באיומים הפוטנציאליים הקשורים לפיתוח בינה מלאכותית וטוען שאמצעי הבקרה הקיימים עשויים להיות בלתי מספקים. המחבר מתייחס לתרחישי מדע בדיוני וקורא לפיתוח כללים מחמירים יותר, כולל הגבלות חומרה והסכמים בינלאומיים על נשק אוטונומי.

המאמר בוחן את החששות הגוברים בנוגע לפיתוח בינה מלאכותית והאיום הפוטנציאלי שלה על האנושות. המחבר מציין שבינה מלאכותית מתפתחת מהר יותר מהצפוי, ושההגבלות התוכנתיות הקיימות עשויות להיות בלתי מספקות, מכיוון שניתן לפרוץ או לעקוף קוד. כפתרון, מוצע להעביר חלק ממנגנוני ההגנה לרמת החומרה, למשל, הטמעת הגבלות בארכיטקטורת השבבים. תשומת לב מיוחדת מוקדשת לשימוש בבינה מלאכותית בטכנולוגיות צבאיות, במיוחד במל”טים במהלך המלחמה באוקראינה, ונבחן הצורך בהגבלות בינלאומיות על נשק אוטונומי. המאמר גם מתייחס לתרחישי מדע בדיוני כמו 'שליחות קטלנית' ו'מסע בין כוכבים', ולשלושת חוקי הרובוטיקה של אסימוב, ומדגיש שגם הם לא פותרים את כל הבעיות. בסך הכל, המחבר קורא לפיתוח כללים ברורים לשליטה בבינה מלאכותית כדי למנוע סיכונים אפשריים.