AI לעולם לא יהפוך לאדם, אבל הסכנה העיקרית שלו כבר קרובה
החוקר פיטר דנינג טוען שרשתות נוירונים אינן מתקרבות לחשיבה אנושית בשל היעדר ידע מרומז הנוצר מניסיון. הסכנה העיקרית של AI, לדעתו, אינה בעליונות על האדם, אלא בפרשנות שגויה של מצבים והתעלמות מערכים אנושיים בעת ביצוע משימות. זו עמדת חוקר, לא עובדה מוכחת.
החוקר פיטר דנינג, בספרו "Turing's Mistake: Escaping the Yoke of Unintelligent Machines", טוען שרשתות נוירונים מודרניות, למרות יכולות הולכות וגדלות, אינן מתקרבות לחשיבה אנושית בשל היעדר ידע מרומז. ידע זה נוצר באמצעות ניסיון אישי, אינטואיציה, אינטראקציה חברתית והבנת ההקשר התרבותי, המאפשרים לאדם לקבל החלטות באופן אוטומטי. דנינג סבור שהסכנה העיקרית של AI אינה בכך שיהפוך לחכם יותר מהאדם, אלא בכך שמערכות חזקות, שנשארות מוגבלות בהבנת ערכים וכוונות אנושיים, עלולות לפרש מצבים בצורה שגויה ולהתעלם מהשלכות חשובות. ככל שמעבירים יותר החלטות למערכות כאלה, כך מגבלות אלו הופכות משמעותיות יותר. המחבר מציין שעמדתו של דנינג היא דעתו האישית, לא עובדה מדעית מוכחת, והוויכוחים על סיכויי ה-AI נמשכים.