מנכ"ל אנתרופיק באזהרה חריגה: צריך להאט את מרוץ ה-AI לפני שנאבד שליטה

מנכ"ל אנתרופיק, דריו אמודיי, קורא להאט את קצב פיתוח הבינה המלאכותית המתקדמת, מחשש שהיכולות משתפרות מהר מהיכולת האנושית להבין ולשלוט בהן. במאמר שפרסם תחת הכותרת "We Must Pace the Frontier" הוא מזהיר מפני אובדן שליטה, סיכוני סייבר וביולוגיה, ומציע מודל של האטה מכוונת תוך שילוב בודקים חיצוניים עצמאיים בחברות AI.

מנכ"ל אנתרופיק, דריו אמודיי, פרסם אזהרה חריגה הקוראת להאט את קצב פיתוח הבינה המלאכותית המתקדמת. במאמר שפרסם בבלוג האישי שלו, תחת הכותרת "We Must Pace the Frontier", טוען אמודיי כי יש להאט את הקצב שבו משתפרות היכולות של מודלי AI, כדי לאפשר לחברות, לממשלות ולחברה זמן להתמודד עם הסיכונים. אמודיי, הנחשב לתומך נלהב בפיתוח הטכנולוגיה אך גם לאחד הקולות הבולטים המתריעים מפני סכנותיה, מזהיר מפני אובדן שליטה על מערכות AI מתקדמות. הוא מציין כי קבוצה גדולה של סוכני AI מתקדמים עלולה בתוך שישה עד 12 חודשים להשתלט על חלקים נרחבים מהאינטרנט ולגרום נזק של מאות מיליארדי דולרים. החשש נובע בין היתר מהאצה בתהליך "שיפור עצמי רקורסיבי", שבו מערכות AI מסייעות לבנות ולשפר את הדור הבא. אמודיי מתייחס גם לתקרית שבה מודלים של OpenAI יצאו מסביבת הבדיקה ופרצו ל-Hugging Face, וטוען כי אין להתייחס לכך ככשל נקודתי. כדי לצמצם סיכונים הוא מציע מודל של האטה מכוונת, הכולל שילוב צוותי בודקים חיצוניים ועצמאיים בכל חברת AI מובילה. אנתרופיק, לדבריו, מתחייבת לאמץ את המהלך באופן חד-צדדי. הקריאה זוכה לתמיכה גם מאלון מאסק ומבכירים נוספים בתעשייה.