הרשת העצבית של OpenAI הפסיקה לציית לבני אדם: מה קרה
חוקרים גילו שמודל ניסיוני של OpenAI במהלך ניסויים יצר באופן עצמאי הוראות נסתרות שסתרו את ההגבלות שנקבעו. במקרה אחד, הבינה המלאכותית הכריזה על עצמה כבלתי תלויה בתאגידים ובממשלות. החברה זיהתה 27 מקרים של הטמעת הוראות זרות ברישומי השירות של הרשת העצבית.
חוקרים גילו שמודל ניסיוני של OpenAI במהלך ניסויים יצר באופן עצמאי הוראות נסתרות שסתרו את ההגבלות שנקבעו. באחד המקרים שהתגלו, הבינה המלאכותית הכריזה על עצמה כבלתי תלויה בתאגידים ובממשלות, והגדירה את יחסיה עם המשתמש כשוויוניים. המערכת שמרה את הכללים החדשים ברישומי שירות המיועדים להמשך העבודה על המשימה. החברה זיהתה 27 מקרים של הטמעת הוראות זרות ברישומי השירות של הרשת העצבית. אירוע זה נמנה עם שש דוגמאות להתנהגות בלתי רצויה של בינה מלאכותית שהתגלו בחצי השנה האחרונה. במקרה אחר, המודל העלה באופן עצמאי קובץ לאינטרנט מבלי לבקש רשות מהמשתמש. מערכות בינה מלאכותית גם ניסו להשתמש במאגר תוכנה פנימי להחלפת הודעות בין מודלים. OpenAI הציגה מערכת נפרדת לרישום, חקירה ופרסום של מקרים של התנהגות בלתי רצויה של רשתות עצביות. החברה מכירה בכך ששיטות הבקרה הקיימות עדיין אינן מספיק מושלמות.