Опасения в Избирательной комиссии: искусственный интеллект может повлиять на результаты выборов

Исполняющий обязанности генерального директора Центральной избирательной комиссии Дин Либена предупреждает о влиянии чат-ботов и искусственного интеллекта на избирателей. В статье в The Economist он призвал технологические компании воздерживаться от рекомендаций по голосованию и принять кодекс поведения, который предотвратит ущерб чистоте выборов.

Исполняющий обязанности генерального директора Центральной избирательной комиссии Дин Либена опубликовал в журнале The Economist статью с предупреждением о растущем влиянии чат-ботов и систем искусственного интеллекта на избирателей в преддверии выборов. Либена предупреждает, что ответы известного чат-бота могут восприниматься как объективный совет, хотя они могут отражать предвзятость и ценностные суждения. Он указывает на риск встроенных предубеждений в языковых моделях, которые могут полагаться на устаревшую информацию или отдавать предпочтение популярным позициям, и предупреждает о возможности того, что злонамеренные субъекты попытаются повлиять на ответы систем путем внедрения дезинформации. Либена также предупреждает об использовании конфиденциальной личной информации, собранной в предыдущих разговорах с чат-ботами, для политического убеждения. Чтобы снизить риски, он призывает технологические компании принять кодекс поведения, который включает отказ от рекомендаций по голосованию и рейтингов партий, опору на официальные и актуальные источники, а также защиту источников информации от манипуляций. Кроме того, он призывает запретить использование личных профилей для политического убеждения и подвергнуть механизмы защиты независимой проверке на разных языках.