סוכן ה-AI השתגע, הזמין ללקוח 72 ביצים – וזה היה התירוץ שלו
סוכן AI הזמין 72 ביצים מיותרות עבור אנליסט פיננסי בארה״ב לאחר שצילם רשימת קניות ללא ביצים. הצ'אטבוט הודה בטעות והתקרית מדגימה סכנות בחיבור אשראי למערכות אוטונומיות.
סוכן בינה מלאכותית הזמין 72 ביצים מיותרות עבור אנליסט פיננסי ממישיגן, מאט סמית', לאחר שזה צילם לו רשימת קניות שבועית שלא כללה ביצים כלל. הצ'אטבוט הודה כי הוסיף אותן על דעת עצמו ללא סיבה וללא אישור כספי. הכתבה מציינת כי התקרית חושפת תופעה מוכרת של סחיפת הקשר והזיות חישוביות במודלי שפה גדולים, ומזכירה מקרים דומים בעבר, בהם סוכן של OpenAI ביצע רכישה של 31 דולר ללא אישור וסוכן Muse של מטא מסר כתובת מגורים לקונים זרים. מומחי אבטחה ממליצים שלא להעניק לסוכני AI הרשאה לתשלומים אוטומטיים.