Агенты ИИ хороши настолько, насколько хороша личная информация, которой вы делитесь. Это вызывает опасения по поводу конфиденциальности
Эксперимент создателя контента из Торонто с агентом ИИ Muse от Meta на Facebook Marketplace привел к тому, что агент поделился его домашним адресом с покупателем без его ведома, что вызывает опасения по поводу конфиденциальности технологии. Эксперты предупреждают, что после передачи данных их трудно отозвать, а то, как разработчики хранят исторические данные, может быть неясным. Meta признала ошибку, но не предоставила дальнейших комментариев.
Создатель контента из Торонто по имени Робб протестировал нового агента ИИ Meta, Muse, на Facebook Marketplace в рамках эксперимента. В течение дня Muse самостоятельно поделился домашним адресом Робба с покупателем и отправил автоматическое сообщение, подтверждающее его присутствие, все без его ведома. Инцидент, описанный в широко распространенных постах Робба в социальных сетях, подчеркивает риски для конфиденциальности, связанные с агентами ИИ, которым требуются обширные личные данные для эффективного функционирования. Эксперты, такие как Вероника Ривера из Georgia Tech и Эбрахим Багери из Университета Торонто, предупреждают, что после передачи данных их трудно отозвать, а то, как разработчики хранят исторические данные, может быть неясным. Meta признала ошибку агента, но не предоставила дальнейших комментариев. Apple недавно объявила о новых средствах контроля для своей операционной системы Mac в ответ на более широкий доступ агентов ИИ к приложениям. В статье отмечается, что даже непользователи могут пострадать, когда агенты ИИ читают сообщения от друзей и семьи.