אנת'רופיק: נחסם שימוש ב-AI שיכל לסייע לפתח נשק ביולוגי
חברת אנת'רופיק, מפעילת מודל הבינה המלאכותית קלוד, הודיעה על חסימת ניסיונות שימוש זדוני במודליה, כולל מחקר שנועד להגביר את יכולת ההדבקה של נגיף הצ'יקונגוניה. החברה פרסמה דו"ח המתעד שימושים לרעה בתקופה שבין דצמבר 2025 לחודש שעבר, הכולל מתקפות סייבר ומבצעי השפעה. במקביל, חוקר בכיר בחברה התפטר והזהיר מפני מירוץ פיתוח בלתי מבוקר.
חברת אנת'רופיק, המפעילה את מודל הבינה המלאכותית קלוד, הודיעה אתמול (חמישי) כי חסמה ניסיונות שימוש זדוני במודליה, לרבות מחקר שהיה עלול לסייע בפיתוח נשק ביולוגי. ההודעה הגיעה בהמשך לדו"ח שפרסמה החברה, בו תועדו שימושים לרעה בתקופה שבין דצמבר 2025 ועד לחודש שעבר. הדו"ח כולל תיעוד של מתקפות סייבר, מעקבים ומבצעי השפעה ברשתות החברתיות. מקרה מרכזי אחד כלל בקשה מקלוד לסייע בכתיבת בקשה למימון מחקר שנועד להגביר את יכולת ההדבקה של נגיף צ'יקונגוניה ואת יכולתו לחמוק ממערכת החיסון. החברה ציינה כי מחקר כזה עשוי לשמש לפיתוח חיסונים וטיפולים, אך גם לאפשר פיתוח נגיף מסוכן יותר. החברה הדגישה כי המקרים שפורטו הם האיומים הבולטים והחדשניים ביותר שזוהו עד כה, וכי הוחמרו אמצעי ההגנה במודלים החדשים. במקביל, חוקר בכיר באנת'רופיק, ג'ייקוב קוקסון, התפטר והודיע כי יעזוב לחלוטין את תחום ה-AI. קוקסון הצהיר כי הוא מודאג מכך שענקיות הטכנולוגיה ממהרות לפתח מערכות בלתי נשלטות עם יכולות שיפור עצמי, העלולות לצאת משליטה ולהשמיד את האנושות. ביוני הודיעה החברה כי חסמה גישה למודלים המתקדמים ביותר שלה בעקבות הוראה אמריקנית.