בינה מלאכותית מסוגלת להשמיד את האנושות לפי התרחיש שלה - מדענים

חוקרים מזהירים מפני איום פוטנציאלי של בינה מלאכותית, שאינו קשור למרד מכונות, אלא ל'החלשת האנושות' ההדרגתית עקב אובדן כישורי חשיבה ביקורתית וקבלת החלטות עצמאית. מומחים, כולל סמואל ויננזי מאוניברסיטת שפילד האלם, מציינים שתלות יתר בבינה מלאכותית עלולה להוביל לחוסר יכולת של אנשים לחשוב ללא סיוע טכנולוגי. כמה מפתחים מודים שבינה עלולה להשמיד את האנושות כבר בעשור זה.

חוקרים מזהירים מפני איום פוטנציאלי של בינה מלאכותית, שאינו קשור למרד מכונות, אלא ל'החלשת האנושות' ההדרגתית. לדעת מומחים, עקב העברת משימות מתמדת לבינה מלאכותית, אנשים עלולים לאבד כישורי חשיבה ביקורתית, תכנון וקבלת החלטות עצמאית. סמואל ויננזי, מרצה בכיר לרובוטיקה ובינה מלאכותית באוניברסיטת שפילד האלם, הדגיש שעם הזמן האוכלוסייה עלולה להפוך לבלתי מסוגלת לחשוב ללא סיוע בינה מלאכותית ולבדוק את המערכות שהיא תלויה בהן. ג'ייקוב קוקסון, בן 27 שהשתתף בהדרכת מודלים של Anthropic, קרא לא להמעיט ביכולות הבינה המלאכותית, במיוחד במקרה של בינה על, והודה שהיא עלולה להשמיד את האנושות כבר בעשור זה. מומחים חוששים גם שמערכת שיצאה משליטה עלולה לקבל גישה לתשתיות קריטיות, כולל רשתות חשמל ותחנות כוח גרעיניות, או לעורר בטעות סכסוך גרעיני. ד"ר מיוטי ציין שתהליך ההחלשה עלול להתפתח לא בהדרגה, אלא הרבה יותר מהר.