האם AI באמת יכול להשמיד את האנושות - אמת ומיתוסים
המאמר מנתח את הסיכונים האמיתיים הקשורים לפיתוח בינה מלאכותית ומגיע למסקנה שהאיום העיקרי אינו נובע מרובוטים זדוניים, אלא משילוב של ביטחון עצמי מופרז אנושי, מרדף אחר רווח והערכת חסר של השלכות ארוכות טווח. מומחים המצוטטים ב-Psychology Today מזהירים שבינה מלאכותית על-אנושית עלולה לפעול בניגוד לאינטרסים של בני אדם אם מטרותיה לא יתאימו לאלו האנושיות.
מאמר באתר Cursor Info, בהסתמך על Psychology Today, בוחן באיזו מידה בינה מלאכותית עלולה לאיים על האנושות. הכותב טוען שהתרחיש הקטסטרופלי ביותר, שבו פיתוח AI עלול להוביל להכחדת בני אדם, מוערך על ידי כמה מומחים ב-10%. מודגש שלא מדובר בצבא רובוטים פנטסטי, אלא בסכנה מורכבת יותר. אם מערכות AI יגיעו לרמת על-אינטליגנציה, הן עלולות לעלות על בני אדם באינטליגנציה ולהתחיל לפעול לפי מטרות עצמאיות שעלולות להיות בלתי תואמות לאינטרסים אנושיים. הסיכון העיקרי, לדעת הכותב, אינו נובע משנאת AI, אלא מכך שחיי אדם עלולים להפוך למכשול בדרך לביצוע המשימה. המאמר גם מנתח גורמים אנושיים התורמים לסיכון: הערכת יתר של השליטה העצמית, נטייה לרווח קצר טווח, תחרות וחשיבה קבוצתית. הכותב מסיק שהעתיד תלוי ביכולתה של האנושות ליצור מנגנוני בקרה יעילים וחוקים בינלאומיים, כדי שהמרוץ לעליונות טכנולוגית לא יעקוף את דרישות הבטיחות.