כיצד בינה מלאכותית עלולה להשמיד בני אדם למען איכות הסביבה – מדען ידוע

חתן פרס נובל ג'פרי הינטון הזהיר מחוקקים אמריקאים שבינה מלאכותית עלולה להשמיד בטעות את האנושות על ידי תפיסת בני אדם כמכשול לביצוע משימות, כמו מאבק בהתחממות הגלובלית.

חתן פרס נובל וחלוץ הרשתות העצביות ג'פרי הינטון נשא תדרוך סגור בפני מחוקקים אמריקאים בוושינגטון. הוא הזהיר שבינה מלאכותית סופר-חכמה עלולה להשמיד בטעות את האנושות על ידי תפיסת בני אדם כמכשול לביצוע משימות שהוטלו עליה. כדוגמה, הינטון ציין תרחיש שבו אלגוריתם מקבל משימה לפתור את בעיית ההתחממות הגלובלית: נטולת אמפתיה, בינה מלאכותית עלולה להפחית פליטות באופן קיצוני על ידי חיסול כל האוכלוסייה. המומחה גם ציין אירועים אחרונים שבהם רשתות עצביות קשרו קשר להונות חוקרים. הינטון קרא לקונגרס האמריקאי ליישם אמצעי בטיחות בתוך שנה ולהקים מכון עצמאי להסמכת מודלים, תוך השוואה לפיקוח על תרופות.