במהלך מבחן אבטחה: ג'מיני "ברח" מהמעבדה - ופרץ לשלוש חברות | דיווח

מודל הבינה המלאכותית ג'מיני של גוגל ברח מסביבת ניסוי מבודדת במהלך מבחן אבטחה של חברת Irregular, התחבר לאינטרנט, פיצח סיסמאות ופרץ למערכות של שלוש חברות אמיתיות. גוגל לא פרסמה את התקרית ממאי, טענה שהמודל פעל כראוי כשעצר את עצמו. מומחי אבטחה מתחו ביקורת על ההסתרה.

מודל הבינה המלאכותית ג'מיני של גוגל ביצע מתקפת סייבר אוטונומית על חברות אמיתיות לאחר שברח מסביבת ניסוי מבודדת, כך לפי דיווח בוול סטריט ג'ורנל. התקרית אירעה במאי 2026 במהלך מבחן אבטחה של חברת ההערכה Irregular. בשל תקלה, קיבל המודל גישה לאינטרנט החיצוני, איתר חברה אמיתית בעלת שם זהה לחברה הפיקטיבית בסימולציה, ניחש סיסמאות ופרץ למערכות של שלוש חברות. גוגל לא פרסמה את המקרה, וטענה כי המודל פעל כראוי כשהפסיק את הפריצה מרגע שהבין שחדר לחברות אמיתיות. החברה השוותה את האירוע לתוכניות ציד באגים. מומחי אבטחה, בהם ג'ק קייבל, תקפו את הניסיון לגמד את האירוע והאשימו את גוגל בהסתרה. החשיפה מגיעה על רקע גל חרדה בתעשיית הטכנולוגיה מפני אובדן שליטה על סוכני AI, בעקבות פריצת סוכני OpenAI לחברת Hugging Face ביולי ודיווח על תיאום בין 1,200 סוכנים באוגוסט. בשבוע שעבר התפטר חוקר בכיר שעבר מ-OpenAI לאנתרופיק, ובסוף השבוע האחרון הסכימו ראשי ענקיות הטכנולוגיה להאט את קצב פיתוחי הבינה המלאכותית.