Социальное давление: версия ИИ
Новые исследования Тель-Авивского университета и Университета Западного Онтарио выявляют феномен алгоритмического конформизма: склонность людей принимать ошибочные рекомендации систем искусственного интеллекта, даже когда они противоречат простому самостоятельному суждению. В эксперименте, где 1445 участников маркировали изображения, 19%–27% приняли ошибочные рекомендации алгоритма. Другое исследование показало, что даже при отклонении совета системы уверенность в самостоятельном решении снижается. Исследователи предупреждают, что распространённое решение оставить «человека в цикле» недостаточно, поскольку человеческое суждение уже подвержено влиянию от ознакомления с рекомендацией.
Автор, генеральный директор Humane AI и эксперт по взаимодействию человека и ИИ, описывает личный опыт, когда умное кольцо похвалило её за хороший ночной сон, несмотря на то, что она проснулась уставшей. Она задаётся вопросом, почему усомнилась в своих ощущениях перед данными системы. Статья представляет два ключевых исследования: первое, Йотама Лиэля и профессора Лиора Залмансона из Тель-Авивского университета, где 1445 участников выполняли простые задачи по маркировке изображений. Рядом с изображениями отображалась намеренно ошибочная рекомендация алгоритма, и 19%–27% ответов совпали с ошибочной рекомендацией, по сравнению с менее чем 1% ошибок в контрольной группе. Исследователи называют это «алгоритмическим конформизмом» и сравнивают с классическим экспериментом конформизма Соломона Аша 1950-х годов. Второе исследование, Лили Сулеймановой и профессора Деррика Нойфельда из Университета Западного Онтарио, проверило 440 участников и показало, что даже при отклонении совета системы уверенность в первоначальном решении снижается. Статья предупреждает, что распространённое решение оставить «человека в цикле» недостаточно, поскольку человеческое суждение уже подвержено влиянию от ознакомления с рекомендацией. Однако в эксперименте, где участники считали, что их решения имеют реальные последствия для безопасности автономных транспортных средств, уровень принятия ошибочных рекомендаций снизился примерно вдвое.