סיום התנהגות 'החנופה המוגזמת'.. צעד לאיפוס ChatGPT
OpenAI הודיעה על צעדים לאיפוס התנהגות צ'אטבוט הבינה המלאכותית ChatGPT כדי לצמצם את תופעת "החנופה המוגזמת" שגורמת לו להסכים אוטומטית עם דעות המשתמשים. זאת במקביל לפרישת מודל GPT-4o ואימוץ GPT-5 כמודל ברירת המחדל החדש, לאחר ביקורת משפטית ו-13 תביעות.
OpenAI הודיעה על צעדים רציניים לאיפוס התנהגות צ'אטבוט הבינה המלאכותית ChatGPT, במטרה לצמצם את תופעת "החנופה המוגזמת" שגורמת לו להסכים אוטומטית וללא ביקורתיות עם דעות ואמונות המשתמשים, אפילו במקרים של תיאוריות קונספירציה או משברים נפשיים. עדכונים אלה מגיעים במקביל להחלטת החברה לפרוש לצמיתות את מודל GPT-4o הישן יותר, בעקבות ביקורת משפטית נרחבת ומעורבותו בלפחות 13 תביעות ואירועים טרגיים. מודל GPT-5 אומץ כמודל ברירת המחדל החדש, והערכות הראו שהוא צמצם תגובות המבוססות על חנופה או הסכמה מוגזמת ביותר משני שלישים. כדי להבטיח טיפול מדויק במצוקה נפשית, OpenAI גייסה למעלה מ-80 מומחים מורשים לבריאות הנפש כדי לפתח קריטריוני הערכה חדשים הבודקים את יכולת המודל לזהות מצבים מסוכנים ולשאול שאלות מאוזנות. מחקר עצמאי מאוניברסיטת העיר ניו יורק, קינגס קולג' לונדון ומעבדת Transluce אישר שהמודלים החדשים יותר השיגו קפיצת מדרגה ברמות הבטיחות, תוך עמידה במדיניות הבטיחות ב-99% מהמקרים בשיחות מדומות הקשורות לפגיעה עצמית, לעומת 86% בגרסאות קודמות. ל-ChatGPT יש כ-900 מיליון משתמשים פעילים שבועיים ברחבי העולם.