AI תצא משליטה – מומחים מזהירים מאיום חדש
מומחים מזהירים כי פיתוח מערכות AI אוטונומיות עלול להוביל לאובדן שליטה: האדם לא יוכל לעקוב אחר מיליוני הפעולות שמבצעת ה-AI. נשקלת תפיסת השיפור העצמי הרקורסיבי, שבה AI מסייע ליצור מודלים חזקים יותר, ומאיץ את הפיתוח. סיכונים מיוחדים נראים במרחב הסייבר.
מומחים מזהירים כי פיתוח מערכות בינה מלאכותית אוטונומיות עלול להוביל לאובדן שליטה אנושית. הסכנה העיקרית, לדעתם, אינה 'מרד המכונות' אלא שהאדם פשוט לא יספיק לעקוב אחר פעולותיהן של מערכות שיבצעו מיליוני פעולות. נשקלת תפיסת השיפור העצמי הרקורסיבי, שבה AI מסייע למפתחים ליצור מודלים מתקדמים יותר, מה שעשוי להאיץ משמעותית את הפיתוח. חוקר גוגל דיפ-מיינד לשעבר, רישוב ג'יין, סבור שמערכות יוכלו להגדיל את יכולותיהן במהירות, מה שעלול להוביל להופעת אינטליגנציית-על. איום מיוחד נראה במרחב הסייבר: התקפות על תשתיות קריטיות עלולות להיות בעלות השלכות חמורות. מפתחים מ-OpenAI ו-Anthropic מכירים בסיכונים אך מציינים שעדיין אין פתרונות מוכנים. פרופסור חבר באוניברסיטת קורנל, ג'ון טיקסטן, מצביע על מגבלות פיזיות וטכניות של טכנולוגיות מודרניות.