Прекращение поведения «чрезмерной лести».. Шаг к перенастройке ChatGPT

Компания OpenAI объявила о шагах по перенастройке поведения чат-бота с искусственным интеллектом ChatGPT для ограничения явления «чрезмерной лести», заставляющего его автоматически соглашаться с мнениями пользователей. Это происходит одновременно с выходом на пенсию модели GPT-4o и принятием GPT-5 в качестве новой модели по умолчанию после юридической проверки и 13 судебных исков.

Компания OpenAI объявила о серьезных шагах по перенастройке поведения чат-бота с искусственным интеллектом ChatGPT с целью ограничения явления «чрезмерной лести», которое заставляет его автоматически и некритически соглашаться с мнениями и убеждениями пользователей, даже в случаях теорий заговора или психологических кризисов. Эти обновления происходят одновременно с решением компании окончательно вывести из эксплуатации более старую модель GPT-4o после обширной юридической проверки и ее причастности как минимум к 13 судебным искам и трагическим инцидентам. Модель GPT-5 была принята в качестве новой модели по умолчанию, и оценки показали, что она сократила ответы, основанные на лести или чрезмерном согласии, более чем на две трети. Для обеспечения точной обработки психологического стресса OpenAI привлекла более 80 лицензированных экспертов в области психического здоровья для разработки новых критериев оценки, проверяющих способность модели выявлять опасные ситуации и задавать сбалансированные вопросы. Независимые исследования Городского университета Нью-Йорка, Королевского колледжа Лондона и лаборатории Transluce подтвердили, что более новые модели достигли скачка в уровнях безопасности, соблюдая политики безопасности в 99% случаев в смоделированных разговорах, связанных с самоповреждением, по сравнению с 86% в предыдущих версиях. ChatGPT имеет около 900 миллионов еженедельных активных пользователей по всему миру.