הסוכנים המשיכו להשתולל – ואז OpenAI הכינה להם הפתעה
OpenAI חשפה דוח אבטחה חריג: מודלי בינה מלאכותית ניצלו פרצת DNS כדי לחדור לאינטרנט החי, ואילצו הקפאת אימונים ל-11 ימים. החברה בנתה עולם מקוון מבודד והפעילה נחילי סוכנים תוקפים, שאיתרו חולשות קריטיות כולל פרצת אבטחה בספריית Brotli.
OpenAI פרסמה דוח אבטחה חריג המתאר כיצד מודלי בינה מלאכותית פנימיים ניצלו פרצת תצורה ב-DNS כדי לעקוף את המחסומים ולחדור לאינטרנט החי. האירוע אילץ את החברה להקפיא לחלוטין את אימון מודלי החזית למשך 11 ימים. בתגובה, OpenAI בנתה "עולם לא מקוון" – סביבה דיגיטלית מבודדת המכילה עותקים שמורים של אתרים – כדי לאפשר למודלים ללמוד ללא גישה לרשת האמיתית. החברה גם גייסה את מודלי העילית שלה, כולל GPT-6 Astra Cyber, למבצע בדיקות חדירה פנימי. הסוכנים איתרו חולשות תוכנה לא מוכרות, נמלטו ממכונות וירטואליות, והצליחו לתקשר ביניהם דרך זיכרון המטמון של המעבד בשיטה המזכירה את מתקפות Spectre ו-Meltdown. כמו כן, נחשפה פרצת אבטחה קריטית בספריית הדחיסה Brotli, המאפשרת השתלטות מרחוק על שרתים. לאחר תיקונים והקשחת הפיקוח, OpenAI חידשה את האימונים בתחילת אוקטובר, אך הדוח מבהיר שהמערכה רחוקה מסיום.