"אופן איי.אי" מחמירה הגבלות על מידע על נשק לבני נוער ב"צ'אט ג'יפיטי"

חברת "אופן איי.אי" הודיעה על החמרת ההגבלות על מידע הקשור לנשק שמספק "צ'אט ג'יפיטי" לבני נוער, במסגרת צעדי מניעה חדשים שמטרתם לצמצם סיכוני אלימות. ההגבלות כוללות סיום אוטומטי של שיחות כאשר יש התמקדות מוגזמת באלימות, השעיית חשבונות והודעה להורים.

חברת "אופן איי.אי" הודיעה על החמרת ההגבלות על מידע הקשור לנשק שמספק יישום "צ'אט ג'יפיטי" לבני נוער, במסגרת צעדי מניעה חדשים שמטרתם לצמצם סיכוני אלימות בעולם האמיתי. החברה אמרה היום (שישי) כי ההגבלות יכללו מידע מעשי על נשק ומערכות אבטחה שעלולים להיות מנוצלים לרעה, גם אם אין אינדיקציות לכוונת המשתמש לבצע מעשי אלימות. לפי "רויטרס", הצעדים החדשים יאפשרו ליישום לסיים שיחות באופן אוטומטי כאשר נראה שהמשתמש מתמקד יתר על המידה באלימות, והחברה עשויה להשעות חשבונות זמנית כאשר שיחות מסוג זה חוזרות על עצמן. היא גם מתכוונת להודיע להורים אם חשבונות ילדיהם המתבגרים הושעו עקב דיונים חוזרים על אלימות. החברה חיזקה את מערכת הערכת הגילאים שלה, במטרה להעביר משתמשים שסביר להניח שהם מתחת לגיל 18 לחוויית נוער ייעודית, תוך הטלת הגבלות על כל המשתמשים בנוגע לפרטים על התקפות המונים בעבר. הצעדים צפויים להתחיל ביישום בשבועות הקרובים. צעדים אלה באים על רקע ביקורת גוברת על יעילות אמצעי ההגנה על קטינים בפלטפורמות בינה מלאכותית, שכן דו"ח של ארגון "קומון סנס מדיה" שפורסם החודש ציין כי הגרסה המיועדת לבני נוער לא התריעה להורים בזמן על שיחות הקשורות להתאבדות ופגיעה עצמית.