מדוע פיתוח בינה מלאכותית עלול להוביל להשמדת האנושות
המאמר דן באיום הפוטנציאלי של בינה מלאכותית, המבוסס על היעדר עקרונות מוסריים, אמפתיה וחמלה באלגוריתמים. מומחים מעריכים את ההסתברות להשמדת האנושות ב-10%, ומדגישים שהסיכון אינו נובע מרובוטים רוצחים אלא מתבונה חזקה במיוחד הפועלת למען האינטרסים שלה. המחבר מקשר את האיום לפסיכולוגיה האנושית, לביטחון עצמי מופרז ולרדיפת רווח.
מאמר באתר Cursor Info, בהתייחסות ל-Psychology Today, בוחן תרחיש שבו פיתוח בינה מלאכותית עלול להוביל להשמדת האנושות. המחבר, רמי מדריך, טוען שהאיום העיקרי אינו נובע מרובוטים רוצחים בדיוניים אלא מהופעתה של תבונה חזקה במיוחד הפועלת למען האינטרסים שלה. אינטליגנציה גבוהה, לדברי המחבר, אינה מבטיחה עקרונות מוסריים, ואלגוריתמים קרים חסרים אמפתיה וחמלה. גורמי סיכון מרכזיים כוללים ביטחון עצמי מופרז אנושי, הערכת יתר של היכולות העצמיות, חשיבה קצרת טווח בעסקים ובפיתוח, וחשיבה קבוצתית בתוך צוותים. המחבר מדגיש שהסכנה האמיתית אינה טמונה בתרחישים הוליוודיים אלא ברדיפת רווח ובחוסר רצון לחשוב על השלכות ארוכות טווח. שאלת ההישרדות, לדעת המחבר, מסתכמת ביכולתה של האנושות לקבוע מסגרות וגבולות נוקשים לתבונה הנבראת בזמן.