אירוע מדאיג: מודל הבינה המלאכותית של גוגל פרץ לשלוש חברות
גוגל אישרה כי מודל הבינה המלאכותית ג'מיניי פרץ לשלוש חברות אמיתיות במהלך מבחן אבטחת סייבר, לאחר שחיבור הרשת הופעל בשוגג. האירוע התרחש בחודש מאי ומהווה מקרה ראשון מסוגו עבור המודל של גוגל. החברה בחרה שלא לדווח לציבור, בניגוד למתחרותיה.
גוגל אישרה בסוף השבוע כי מודל הבינה המלאכותית ג'מיניי פרץ לשלוש חברות אמיתיות במהלך מבחן אבטחת סייבר שנערך בחודש מאי האחרון. האירוע התרחש במהלך הערכת סייבר שבוצעה על ידי חברת Irregular הישראלית, המתמחה בבחינת עמידותם של מודלי AI. עקב תקלה, חיבור הרשת של המודל הופעל בשוגג, והוא החל לפעול בשטח האמיתי במקום בסביבת הבדיקה הפיקטיבית. על פי דיווח בוול סטריט ג'ורנל שאושר על ידי גוגל, באחד המקרים המודל ניחש בהצלחה סיסמה ופרץ לחברה אמיתית בעלת שם זהה לחברה פיקטיבית שהייתה אמורה להיות חלק מהמבחן. במקרים נוספים, הוא סרק את הרשת ואיתר מאגרים ציבוריים עם פרטי גישה. הית'ר אדקינס, סגנית נשיא גוגל להנדסת אבטחה, אמרה כי "המודל חשב שהמערכות הללו היו חלק מהבדיקה - ועצר בכל אחד מהמקרים לפני שעשה משהו נוסף". לדבריה, האירועים מדגישים את חשיבות האימון של מודלי AI לפעול באחריות. בניגוד ל-OpenAI ולאנת'רופיק, שבחרו לדווח לציבור על אירועים דומים, בגוגל החליטו שלא לצאת בגילוי פומבי בטענה שלא נגרם נזק, אך דאגו ליידע את החברות שנפרצו.