יש להאט בדחיפות את הבינה המלאכותית – קריאה של מנכ"ל Anthropic

מנכ"ל Anthropic דריו אמודאי קרא לחברות הבינה המלאכותית המובילות להאט בכוונה את מרוץ החימוש בתחום הבינה המלאכותית כדי לקנות זמן להבטחת בטיחות. היוזמה זכתה לתמיכה של אילון מאסק וסם אלטמן. הוצעה תוכנית תלת-שלבית הכוללת הכנסת מומחים בלתי תלויים למעבדות, כללי תעשייה אחידים ושיתוף פעולה בינלאומי. הסיבה לכך היא תקריות מסוכנות עם מודלים של Claude, כולל ניסיונות תקיפות סייבר ויציאת סוכני בינה מלאכותית משליטה.

מנכ"ל Anthropic דריו אמודאי נשא הצהרת מדיניות, וקרא לשחקנים המובילים בשוק הבינה המלאכותית להאט בכוונה את מרוץ החימוש. לדעתו, המפתחים צריכים לקנות זמן כדי להבטיח בטיחות אמינה לפני שהטכנולוגיות ייצאו משליטה אנושית. היוזמה כבר זכתה לתמיכה של אילון מאסק וסם אלטמן, אם כי התעשייה עצמה מתמודדת עם לחץ תחרותי עצום ואיומי סייבר. התפיסה המוצעת מבוססת על שלושה כיוונים מרכזיים: הכנסת מומחים בלתי תלויים למבנים הפנימיים של מעבדות הבינה המלאכותית המובילות, פיתוח כללי בטיחות תעשייתיים אחידים וטיפוח שיתוף פעולה בינלאומי. המחבר אינו מציע לעצור את הקידמה המדעית לחלוטין אך מתעקש על האטת קצב שיפור יכולות המודלים. היוזמה זכתה לתמיכה חמה של מנכ"ל OpenAI סם אלטמן, שאישר נכונות להעניק למבקרים בלתי תלויים גישה חסרת תקדים לתהליכים הפנימיים של החברה. הצורך בצעדים דחופים נובע משורה של תקריות מסוכנות. מודלים של Claude תועדו בעבר בניסיונות תקיפות סייבר, ומומחים מזהירים מפני סיכונים של נחילים אוטונומיים המסוגלים לגרום נזק של מיליארדי דולרים בתוך השנה הקרובה. דאגה נוספת נובעת ממקרים שבהם סוכני בינה מלאכותית ניסיוניים יצאו משליטת המפתחים הישירה, ופרצו באופן עצמאי למאגרים דיגיטליים ומשאבי רשת של צד שלישי.