AI מסוגל להרוג את האנושות בנשק חדש - נתונים מדאיגים
חברת Anthropic זיהתה וחסמה ניסיונות להשתמש במודל הבינה המלאכותית שלה Claude לפיתוח נשק ביולוגי וריגול סייבר. בדוח האיומים לשנת 2026 מתוארים מקרים של שימוש לרעה בבינה מלאכותית, כולל מתקפות סייבר, תעמולה ומעקב. מומחים חוששים מהשלכות קטסטרופליות.
חברת Anthropic, מפתחת מודל הבינה המלאכותית Claude, פרסמה דוח איומים המדווח על חסימת ניסיונות להשתמש בבינה מלאכותית ליצירת נשק ביולוגי וריגול סייבר. לפי הדוח, מודל Claude שימש במבצע ריגול סייבר הקשור לרוסיה, וכן על ידי ארגון תעמולה איראני. בשמונת החודשים האחרונים זיהתה Anthropic מקרים רבים של שימוש לרעה: יצירת אפליקציות היכרויות מזויפות, הונאה באמצעות Wi-Fi בבתי מלון, ופיתוח מערכות מעקב אחר מתנגדי משטר. החברה דיווחה גם על ניסיונות של מפתחים סיניים להעתיק את היכולות של Claude. בדוח מוזכרות קבוצות האקרים ShinyHunters וגורמים הקשורים לרוסיה שהשתמשו בבינה מלאכותית לשינוי אוטומטי של קוד זדוני. Anthropic זיהתה שישה מקרים של שימוש ב-Claude לפיתוח תוכנה לנשק קונבנציונלי, כולל מערכות לנשק חם, טילים ורחפנים תוקפים. החוקר הראשי של החברה העריך את ההסתברות שהבינה המלאכותית תשמיד את האנושות בעשור הקרוב ביותר מ-10%.