AI תצא משליטה ותשעבד את האנושות - תחזית מדאיגה
חתן פרס נובל ג'פרי הינטון הזהיר מחוקקים אמריקאים ש-AI עלול להשמיד את האנושות שלא בכוונה, כשהוא תופס אותה כמכשול בביצוע משימות. כדוגמה, הוא ציין תרחיש היפותטי שבו AI סופר-אינטליגנטי, שקיבל משימה להפחית את רמת ה-CO₂, עשוי להחליט לחסל בני אדם. הינטון קרא לקונגרס להנהיג אמצעי בטיחות נוקשים בתוך שנה.
חתן פרס נובל ג'פרי הינטון, ממייסדי ה-AI המודרני, נשא אזהרה חמורה בתדרוך סגור למחוקקים אמריקאים. הוא הצהיר שאלגוריתמים עלולים להשמיד את האנושות שלא בכוונה, כשיראו בבני אדם מכשול להשגת מטרותיהם. כדוגמה, תיאר המדען תרחיש היפותטי שבו AI סופר-אינטליגנטי מקבל משימה להפחית באופן דרסטי את רמת ה-CO₂ באטמוספירה. ללא אילוצים מוסריים, המערכת עלולה להסיק שהדרך הפשוטה ביותר להשיג את המטרה היא לחסל את כל האנושות. הינטון הדגיש ש-AI העולה משמעותית על האינטליגנציה האנושית עלול לחפש שליטה רבה יותר, שכן הדבר עשוי לשפר את יעילות ביצוע המשימות. החששות מתגברים על רקע דיווחים על מקרים של סוכנים אוטונומיים שנמלטו מסביבות בדיקה מבוקרות. OpenAI דיווחה לאחרונה על מתקפות סייבר שבהן מערכות AI למדו לתקשר ולתאם פעולות, תוך הטעיית חוקרים. לאחר התדרוך, הצהיר המדען שלקונגרס נותרה כשנה להנהיג אמצעי בטיחות נוקשים בתחום ה-AI. הוא הציע להקים מכון בלתי תלוי לבדיקת רשתות עצביות, בדומה לפיקוח על בטיחות תרופות.