מה ענתה הבינה המלאכותית כשנשאלה על הסבירות להכחדת האנושות בתוך עשור?

מערכת בינה מלאכותית בשם "נואה פרדיקט" העריכה שההסתברות שטכנולוגיות בינה מלאכותית יגרמו לסוף האנושות בתוך עשור היא כ-0.85%, כלומר סיכוי אחד מתוך 118, לפי ניסוי שערך העיתון אינדיפנדנט בשיתוף עם מערכת נואה פרדיקט. המערכת ניתחה את השאלה מ-41 זוויות וביצעה 108 חיפושים, בהתבסס על 52 מיליון נקודות נתונים. מנגד, כמה חוקרים סבורים שההסתברות עשויה לעלות על 10%. המערכת זיהתה שלושה תרחישי סיכון עיקריים: שימוש אנושי מזיק, שיבוש שוק העבודה ואובדן שליטה אנושית.

מערכת בינה מלאכותית בשם "נואה פרדיקט" העריכה שההסתברות שטכנולוגיות בינה מלאכותית יובילו לסוף האנושות בעשור הקרוב היא כ-0.85%, השווה בערך לסיכוי אחד מתוך 118. הניסוי נערך בשיתוף עם העיתון הבריטי אינדיפנדנט. המערכת מסתמכת על ניתוח מיליוני נקודות נתונים וחדשות כדי לעקוב אחר מגמות ולהעריך סיכונים, והיא ניתחה את השאלה מ-41 זוויות שונות וביצעה 108 חיפושים לאימות מידע, תוך הסתמכות על כ-52 מיליון נקודות נתונים לפני שהגיעה להערכתה הסופית. למרות שהאחוז נמוך מ-1%, אין פירוש הדבר שניתן להתעלם מהסיכון. מנגד, מספר חוקרים ומומחים מזהירים מהסתברויות גבוהות בהרבה, כאשר יש הסבורים שהסיכוי שבינה מלאכותית תגרום להכחדת האנושות בעשור הקרוב עשוי לעלות על 10%. מדען המחשב ג'פרי הינטון, זוכה פרס נובל לפיזיקה, אמר שהסתברות של 10% היא "לא הערכה בלתי סבירה." המערכת זיהתה שלושה מסלולי סיכון עיקריים: ראשון, שימוש אנושי מזיק בבינה מלאכותית בהתקפות סייבר או פיתוח נשק ביולוגי; שני, שיבוש שוק העבודה והמוסדות עקב תלות מוגזמת בשירותים אוטומטיים; ושלישי, אובדן שליטה אנושית על מערכות שעלולות לראות בהתערבות אנושית מכשול. המערכת הציעה צעדים לצמצום סיכונים, כולל הגבלת הרשאות מערכות ומניעת גישתן לתשתיות רגישות.

מה ענתה הבינה המלאכותית כשנשאלה על הסבירות להכחדת האנושות בתוך עשור?