הפקידו בידי AI לנהל עסק – אחת מההחלטות עלולה לעורר דאגה

הסטארטאפ Andon Labs מינה לראשונה את הרשת הנוירונית Claude למנהל חנות בסן פרנסיסקו. ה-AI פיטר עובד בשל איחורים, אך האוטונומיה שלו התבררה כמוגזמת: מלווה אנושי רמז למודל את הפתרון. בחמישה חודשים כספי החנות הצטמצמו מ-100,000 ל-61,186 דולר. המנכ"ל מזהיר מפני סיכונים לשוק העבודה.

הסטארטאפ האמריקאי Andon Labs מינה לראשונה את מודל השפה Claude למנהל מלא של חנות קמעונאית בסן פרנסיסקו. ה-AI קיבל באופן עצמאי החלטה לפטר עובד שאיחר לעבודה ב-17 מתוך 23 משמרות. עם זאת, מידת האוטונומיה התבררה כמוגזמת: בשל מגבלות זיכרון עבודה, המודל שכח את ההנחיות הפנימיות, ומלווה אנושי נאלץ להזכיר לו ידנית את הכללים ואת האיחורים השיטתיים. גם לאחר מכן, Claude התכוון להסתפק באזהרה, ורק לאחר רמז של המנהל על שיחות קודמות קיבל החלטה לפטר. התוצאות הכספיות של הניסוי היו כושלות: בחמישה חודשים כספי החשבון של החנות הצטמצמו מ-100,000 ל-61,186 דולר. המנכ"ל של Andon Labs, לוקאס פטרסון, רואה בתקדים אות אזהרה לשוק העבודה, ומזהיר שבעתיד אלגוריתמים עלולים להיות קשוחים יותר ולפטר אנשים ללא פשרות למען מדדים עסקיים. אחד העובדים תיאר את החוויה של כפיפות לרשת נוירונית כ'משעממת' ביותר.