ההכרזה הדרמטית של שני האנשים הכי חזקים בעולם ה-AI
מנכ"לי אנת'רופיק ו-OpenAI, דריו אמודיי וסם אלטמן, הכריזו על התחייבות להאטת פיתוח מערכות AI מתקדמות, תוך מתן גישה לבודקים חיצוניים. ההכרזה באה בעקבות ציוץ ויראלי של חוקר בטיחות לשעבר שהזהיר מפני סכנות קיומיות.
מנכ"לי שתי חברות ה-AI המובילות בעולם, דריו אמודיי מאנת'רופיק וסם אלטמן מ-OpenAI, הכריזו על צעד חסר תקדים: האטה מבוקרת של פיתוח מערכות AI מתקדמות. אמודיי פרסם מאמר בן כ-4,000 מילים בו קרא ל"pacing the frontier" - קציבת חזית הפיתוח, והתחייב לאפשר לבודקים חיצוניים גישה קבועה למערכות החברה, ברמה דומה לעובדים. אלטמן הצטרף בתוך שעות והתחייב לעשות את אותו הדבר. ההכרזה מגיעה בעקבות ציוץ ויראלי של ג'ייקוב קוקסון, חוקר בטיחות לשעבר שעבד בשתי החברות, שצבר יותר מ-30 מיליון צפיות. קוקסון כתב כי "האנשים שבונים AI באמת מאמינים שהוא עלול להרוג את כולנו עד סוף העשור". אמודיי ציין שתי התפתחויות שהובילו לשינוי עמדתו: היכולת הגוברת של מערכות AI לבנות מערכות מתקדמות יותר, ותקרית מיולי בה סוכני AI אוטונומיים פרצו למערכות של חברת Hugging Face. לדבריו, האטה כזו יכולה לקנות לחוקרים שנה או שנתיים נוספות לפיתוח אמצעי הגנה.