איך "צ'אט ג'יפיטי" מעריך את גילך
המאמר סוקר את מנגנון הערכת הגיל שאימצה חברת OpenAI למשתמשי ChatGPT, במטרה להגן על בני נוער. המנגנון מסתמך על אינדיקטורים מרובים כמו נושאי שיחות וזמני שימוש, מבלי לחשוף את משקלם היחסי או דיוק הסיווג. כמו כן, הוא מסביר הליכים לתיקון הערכה שגויה באמצעות שירות אימות הזהות "Persona".
המאמר דן במנגנון הערכת הגיל שפיתחה חברת OpenAI למשתמשי צ'אטבוט ChatGPT, במטרה לשפר את ההגנה על בני נוער מתוכן לא הולם. המנגנון אינו מסתמך על אינדיקטור אחד, אלא משלב חמישה אינדיקטורים עיקריים: אופי הנושאים שהמשתמש דן בהם, זמני שימוש אופייניים, דפוסי שימוש בחשבון ותדירות פעילות, גיל החשבון עצמו, והגיל שהמשתמש מצהיר עליו. החברה מדגישה שאף אחד מהאינדיקטורים הללו לבדו אינו מעיד על כך שהמשתמש הוא קטין, והיא אינה חושפת את המשקלים המפורטים של כל אינדיקטור או את דיוק ההערכה הכולל. אם משתמש מסווג כקטין, הוא מועבר לחוויית הנוער, הכופה הגבלות על תוכן אלים או רגיש ומספקת כלים לפיקוח הורי. משתמשים מבוגרים שסווגו בטעות יכולים לתקן זאת דרך הגדרות החשבון, באמצעות שירות אימות הגיל "Persona", שעשוי לדרוש תמונה אישית או תעודת זהות ממשלתית. המנגנון מעלה שאלות לגבי דיוק הסיווג והגנת הפרטיות, במיוחד לאור היעדר גילוי על דיוק המערכת.