"Опен Ай.Ай" ужесточает ограничения на информацию об оружии для подростков в "Чат Дж.Пи.Ти"

Компания "Опен Ай.Ай" объявила об ужесточении ограничений на информацию об оружии, предоставляемую "Чат Дж.Пи.Ти" подросткам, в рамках новых профилактических мер, направленных на снижение рисков насилия. Ограничения включают автоматическое завершение разговоров при чрезмерном сосредоточении на насилии, приостановку аккаунтов и уведомление родителей.

Компания "Опен Ай.Ай" объявила об ужесточении ограничений на информацию об оружии, предоставляемую приложением "Чат Дж.Пи.Ти" подросткам, в рамках новых профилактических мер, направленных на снижение рисков насилия в реальном мире. Компания заявила в пятницу, что ограничения будут касаться практической информации об оружии и системах безопасности, которые могут быть использованы не по назначению, даже при отсутствии признаков намерения пользователя совершить акты насилия. По данным "Рейтер", новые меры позволят приложению автоматически завершать разговоры, когда пользователь чрезмерно сосредоточен на насилии, а компания может временно приостанавливать аккаунты при повторении таких разговоров. Она также намерена уведомлять родителей, если аккаунты их детей-подростков были приостановлены из-за повторного обсуждения насилия. Компания усилила систему оценки возраста, чтобы переводить пользователей, которые, вероятно, моложе 18 лет, на специальный подростковый режим, вводя при этом ограничения для всех пользователей на детали прошлых массовых атак. Меры планируется начать внедрять в ближайшие недели. Эти шаги предпринимаются на фоне растущей критики эффективности мер защиты несовершеннолетних на платформах искусственного интеллекта, поскольку отчет организации "Коммон Сенс Медиа", опубликованный в этом месяце, указал, что версия для подростков не предупреждала родителей своевременно о разговорах, связанных с самоубийством и самоповреждением.