Вы ругали искусственный интеллект? Отныне вас могут заблокировать навсегда

Компания Anthropic, занимающаяся искусственным интеллектом, обновила политику использования Claude и запрещает жестокое и оскорбительное поведение по отношению к моделям, угрожая постоянной блокировкой в крайних случаях. Решение вызвало насмешки в соцсетях, но эксперты указывают на технологические и охранные причины за ним.

Компания Anthropic, разработчик чат-бота Claude, обновила свою политику использования и запрещает систематически жестокое и оскорбительное поведение по отношению к моделям ИИ. Новые правила, вступающие в силу 12 ноября, позволяют компании принимать меры против нарушителей, причём основным механизмом принуждения будет завершение оскорбительных разговоров самой системой. Решение вызвало насмешки и критику в соцсетях, но также дискуссию о безопасности моделей и влиянии отношения к ним. Эксперты отмечают, что помимо вопроса об эмоциях машины, за решением стоят хорошо обоснованные технологические и охранные причины, особенно в преддверии ожидаемого размещения акций компании на бирже в этом месяце. Бывший генеральный директор Reddit Ишан Вонг объяснил, что модель 'учится на жестокости', а исследования показали, что тон голоса напрямую влияет на производительность ИИ. Статья также цитирует Илона Маска, который назвал политику 'правильным шагом'.