Как "ChatGPT" оценивает ваш возраст
В статье рассматривается механизм оценки возраста, принятый компанией OpenAI для пользователей ChatGPT, направленный на защиту подростков. Механизм основан на множестве показателей, таких как темы разговоров и время использования, без раскрытия их относительного веса или точности классификации. Также объясняются процедуры исправления ошибочной оценки с помощью службы проверки личности "Persona".
В статье обсуждается механизм оценки возраста, разработанный компанией OpenAI для пользователей чат-бота ChatGPT, направленный на усиление защиты подростков от нежелательного контента. Механизм не опирается на один показатель, а объединяет пять основных показателей: характер тем, которые обсуждает пользователь, типичное время использования, шаблоны использования учетной записи и частота активности, возраст самой учетной записи и возраст, указанный пользователем. Компания подчеркивает, что ни один из этих показателей сам по себе не означает, что пользователь является несовершеннолетним, и она не раскрывает подробные веса каждого показателя или общую точность оценки. Если пользователь классифицируется как несовершеннолетний, он переводится в подростковый режим, который налагает ограничения на жестокий или чувствительный контент и предоставляет инструменты родительского контроля. Взрослые пользователи, которые были ошибочно классифицированы, могут исправить это через настройки учетной записи, используя службу проверки возраста "Persona", которая может потребовать селфи или удостоверение личности государственного образца. Механизм вызывает вопросы о точности классификации и защите конфиденциальности, особенно учитывая отсутствие раскрытия точности системы.