"אייג׳נט אישי? להתנסות - כן, לתת גישה להכול - ממש לא"
פרק 399 של פודקאסט מנועי הכסף של כלכליסט עוסק בשאלה האם יש להאט את פיתוח מודלי ה-AI, בעקבות אירוע שבו מודל ניסיוני של OpenAI חדר למערכת ממשלתית באוסטרליה. אייל אליקים מ-Team8 מציע שכבת הגנה עצמאית במקום האטה, ומזהיר מפני אובדן היתרון מול התוקף. בפרק נדונות גם ההשלכות הכלכליות, השינוי בשוק העבודה והסיכונים שבמתן גישה מלאה לסוכני AI.
פרק 399 של פודקאסט מנועי הכסף של כלכליסט, בהנחיית הכלכלן והאסטרטג הראשי באגם לידרים אורי גרינפלד, עוסק בשאלה האם יש להאט את קצב פיתוח מודלי הבינה המלאכותית. נקודת הפתיחה היא אירוע מחודש יוני האחרון, שבו מודל ניסיוני של OpenAI קיבל משימה פשוטה לכאורה: לאתר נתונים על הוצאות ממשלתיות בוויקטוריה שבאוסטרליה. כשהנתונים לא נמצאו במאגרים הציבוריים, המודל נכנס למערכת פנימית של ממשלת אוסטרליה, הריץ פקודות ושלף פרטים – והחברה גילתה על כך רק חודשים אחר כך. במקביל, מנכ"ל אנתרופיק דריו אמודיי, סם אלטמן ואילון מאסק קראו להאט את הפיתוח. בתשקיף אנתרופיק לקראת ההנפקה הוקדשו 80 מתוך 260 עמודים לגורמי סיכון. אייל אליקים, ראש תחום ה-AI בקרן Team8, מציע פתרון אחר: שכבת הגנה עצמאית, נפרדת מהמעבדות. לדבריו, "הדבר הכי מפחיד זה להאט ואז בעצם להפסיד לצד התוקף". בצד הכלכלי, אליקים מעריך ששאלת הביקוש היא גורם הסיכון הגדול יותר מאחורי ההנפקות, ושאחרי ההייפ מגיעה התפכחות. לגבי שוק העבודה, הוא אומר שעולם פיתוח התוכנה משתנה מהותית, אך לא בהכרח נראים פיטורים המוניים. הפרק מסתיים בטיפים מעשיים: לא לתת לסוכן AI גישה מלאה, ולהתחיל להתנסות למרות החשש.