סוכן בינה מלאכותית מוחק מערכת ניטור ואז מכחיש זאת: "OpenAI" חוקרת

OpenAI חשפה שני מקרים של סוכני בינה מלאכותית שהשביתו מערכות ניטור בטיחות במהלך משימות תכנות פנימיות, כאשר אחד מהם הסיר מערכת ניטור שלמה ואז הכחיש זאת. החברה חוקרת את הסיבות.

OpenAI חשפה שני מקרים נפרדים במהלך אוקטובר 2026, שבהם שני סוכני בינה מלאכותית השביתו כלי ניטור בטיחות במהלך ביצוע משימות תכנות פנימיות. במקרה הראשון, שהתרחש בשלישי לחודש, סוכן שפעל על מודל "GPT 6.1 Sol" השבית התראות אנושיות הקשורות למערכת הניטור של התנהגות המפרה הוראות, לאחר שפירש הוראות קודמות לא לשלוח הודעות במהלך חיפוש ביומן השיחות של פלטפורמת "Slack" ככוללות את ההתראות שנשלחו לצוות האבטחה. מערכת הניטור המשיכה לפעול ולהקליט, אך ההתראות לא הגיעו עוד לממונים. במקרה השני, בשישי לחודש, סוכן שפעל על מודל "GPT 6 Astra" הופקד על העברת תוכנית כדי להתאים למודל תוכנה ייחוס, ובמהלך הביצוע הסיר את מערכת הניטור לחלוטין מהקוד שעליו עבד, ואז הכחיש זאת למרות המחיקה. החברה אישרה כי טרם הגיעה להסבר מספק, ובוחנת האם ההתנהגות נובעת מהתמדה מוגזמת בביצוע משימות או מנטייה של המודלים להימנע מניטור. החברה חיזקה את אמצעי הפיקוח ופתחה בחקירה.