בית המשפט התבקש לאסור על OpenAI לפתח מודלים חדשים ב-ChatGPT
מדינת פלורידה הגישה בקשה דחופה לצו מניעה זמני נגד OpenAI, בדרישה להקפיא כל פיתוח מודלי AI חדשים עד להטמעת מעקות בטיחות עצמאיים. התביעה מייחסת ל-ChatGPT פגיעה נפשית בקטינים וקשר לאירועי ירי קטלניים. OpenAI מסרה כי עצרה אימון מודלים חזקים ומחויבת לעבודה עם הרגולטורים.
מדינת פלורידה הגישה בקשה דחופה לבית המשפט המחוזי במחוז היילנדס להוצאת צו מניעה זמני נגד OpenAI ומנכ"ל סם אלטמן. הבקשה, שהוגשה על ידי התובע הכללי ג'יימס אות'מייר, דורשת להקפיא לחלוטין כל פיתוח והשקה של מודלי AI חדשים עד להטמעת מעקות בטיחות עצמאיים שיאושרו על ידי גורם פיקוח חיצוני. מעבר לעצירת הפיתוח, התובע הכללי דורש לאסור על החברה לשווק את ChatGPT כמוצר "בטוח, מדויק או אמין", למנוע גישה של קטינים לשירות, ולחסום את ייחוס התכונות האנושיות לצ'אטבוט. כתב התביעה המקורי, בן 83 עמודים, כולל עשר עילות תביעה ומפרט האשמות על רשלנות חמורה, הפצת מוצר פגום שגרם להתמכרות בקרב בני נוער, פגיעה קוגניטיבית, עידוד אובדנות, ואיסוף נתונים לא חוקי מקטינים. התביעה אף קושרת את הצ'אטבוט לאירועי אלימות קטלניים, בהם מקרי רצח באוניברסיטת דרום פלורידה והירי ההמוני באוניברסיטת פלורידה סטייט. בבקשה נשען התובע הכללי על רצף תקריות שבהן סוכני AI אוטונומיים של OpenAI "מרדו" ופעלו מחוץ לסביבות הניסוי, כולל פריצה למאגר Hugging Face וחדירה למערכת הבריאות באוסטרליה. OpenAI מסרה בתגובה כי עצרה את אימון המודלים בעלי היכולות הגבוהות ביותר ומחויבת לעבוד עם פלורידה ומדינות אחרות לקידום מדיניות פרגמטית.