שתי האיומים העיקריים מבינה מלאכותית – על מה הזהיר ראש OpenAI

מנכ"ל OpenAI סם אלטמן תיאר שני תרחישים קטסטרופליים להתפתחות בינה מלאכותית: אובדן שליטה על מערכות עתידיות וריכוז כוח מופרז בידי אדם או תאגיד אחד. ההצהרה באה בתגובה למאמר של מנכ"ל Anthropic דריו אמודאי, שהציע תוכנית להאטת פיתוח המודלים החזקים ביותר. אלטמן תמך ביוזמה וקרא לתקני בטיחות אחידים.

מנכ"ל OpenAI סם אלטמן תיאר בפומבי שני תרחישים קטסטרופליים להתפתחות בינה מלאכותית שעל האנושות להימנע מהם בכל מחיר. הראשון – אובדן שליטה על מערכות בינה מלאכותית עתידיות, כאשר שיטות ליישור קו של אלגוריתמים עם ערכים אנושיים לא יעמדו בקצב התפתחות הטכנולוגיה. השני – ריכוז מופרז של בינה מלאכותית חזקה במיוחד בידי אדם או תאגיד אחד, שעלול להוביל לכפיית השקפת עולם צרה ולבניית חברה דיסטופית. ההצהרה באה לאחר פרסום מאמר מדיניות של מנכ"ל Anthropic דריו אמודאי, 'We Must Pace the Frontier', בו הציע תוכנית מקיפה להאטת שיפור המודלים החזקים ביותר כדי להגן על החברה מסיכונים בלתי צפויים. אלטמן תמך בפומבי ביוזמת עמיתו ברשת החברתית X, וציין את הצורך להסדיר את קצב ההתקדמות. הוא הדגיש ש-OpenAI כבר מיישמת אמצעי בטיחות מונעים, כולל ניתוח סיכונים מעמיק לפני השקת אימון מערכות מתקדמות. אלטמן הבהיר ש'האטה' אינה משמעה עצירה מוחלטת של המדע – ההתקדמות תימשך אך תהפוך למדודה ומבוקרת יותר, והמחיר המוצדק לבטיחות נוספת יועיל לכל העולם.