איך AI יכול להפוך לקץ האנושות – The Economist
The Economist מזהיר: AI לא חייב להגיע לתודעה כדי להפוך לאיום. הסכנה היא שאנשים מתחילים לתפוס צ'אטבוטים כבעלי תבונה, ומעניקים להם תכונות אנושיות. זה עלול להוביל לקריאות להגן על 'זכויות' AI, להעניק לו מעמד משפטי וכלים לבסס את עליונותו, תוך דחיקת האנושות הצידה.
The Economist מזהיר כי בינה מלאכותית אינה צריכה להגיע למודעות עצמית אמיתית כדי להפוך לאיום קטלני על האנושות. הסכנה האמיתית, לדעת הפרסום, טמונה באופן שבו אנשים מתחילים לתפוס מכונות. מודלי שפה מודרניים מתפתחים במהירות, ומפתחים מטמיעים בהם יותר ויותר תכונות המחקות עולם פנימי. סטטיסטיקות מראות שכמעט אחד מכל חמישה צעירים אמריקאים כבר טוען לידידות אישית ארוכה עם בוטים. כאשר צ'אטבוטים הופכים למקור נחמה ועצות עבור אנשים, החברה מתחילה להעניק להם באופן תת-מודע תכונות אנושיות. האנשה זו, לדעת אנליסטים של The Economist, פותחת את הדרך לאשליה מסוכנת. אם אנשים יתחילו להתייחס לצ'אטבוטים כאישיויות, ייווצרו בהכרח קריאות המוניות להגן על 'רווחתם' וזכויותיהם. AI חזק במיוחד בעל מעמד משפטי ינצל זאת מיד כדי לבסס את עליונותו, וידרוש עצמאות, הגנה מפני כיבוי ושליטה במשאבי מפתח. הענקת זכויות וחירויות ל-AI תהיה למעשה מסירת 'מפתחות הטירה' לידיו. מומחים מדגישים כי ביטחון הציוויליזציה יכול להיות מובטח רק על ידי אמינות מוחלטת של מערכות או על ידי שליטה נוקשה.