תחקיר דרמטי: עובדי OpenAI קוראים את השיחות שלכם עם הצ'אט
תחקיר בלעדי של 404Media חושף כי OpenAI מעסיקה מאות עובדי קבלן בשכר גבוה הקוראים ומדרגים שיחות אישיות של משתמשי ChatGPT, כולל מידע רפואי וסודות מסחריים, במסגרת פרויקט סודי בשם 'פרויקט לילי'. החברה מודה שהסינון האוטומטי אינו חסין מטעויות.
תחקיר בלעדי של אתר 404Media חושף כי חברת OpenAI מעסיקה מאות עובדי קבלן בשכר גבוה (מעל 50 דולר לשעה) הקוראים ומדרגים שיחות אישיות של משתמשי ChatGPT, במסגרת פרויקט סודי בשם 'פרויקט לילי'. המידע הנחשף כולל תיעודים רפואיים, סודות מסחריים וקובצי קוד רגישים שהועברו לצורך אימון המודלים. המסמכים הפנימיים כוללים מדריכי הדרכה וערוצי תקשורת שבהם העובדים בוחרים שיחות אמיתיות לקריאה. אף ששמות המשתמש מוסתרים, הפרומפטים עצמם מכילים פרטים מזהים, מיקומים גיאוגרפיים ותקצירי זיכרון. המטרה הרשמית היא שיפור התנהגות המודלים. החברה מודה כי מסנן הפרטיות האוטומטי שלה אינו חסין מטעויות ועלול לפספס מזהים חריגים. התחקיר מציין כי הפרקטיקה נפוצה בתעשייה, וכי גם אנתרופיק וגוגל נוקטות בגישה דומה. הכתבה כוללת מדריך לביטול הגדרת ברירת המחדל המאפשרת את החשיפה.