ИИ доверили управлять бизнесом – одно из решений может вызвать тревогу

Стартап Andon Labs впервые назначил нейросеть Claude управляющим магазина в Сан-Франциско. ИИ уволил сотрудника за опоздания, но его автономность оказалась преувеличенной: человек-куратор подсказал модели решение. За пять месяцев средства магазина сократились с 100 000 до 61 186 долларов. Гендиректор предупреждает о рисках для рынка труда.

Стартап Andon Labs из США впервые назначил языковую модель Claude полноценным управляющим розничного магазина в Сан-Франциско. ИИ самостоятельно принял решение об увольнении сотрудника, который опоздал на работу в 17 из 23 смен. Однако степень автономности оказалась преувеличенной: из-за ограничений рабочей памяти модель забыла внутреннее руководство, и человеку-куратору пришлось вручную напоминать ей о правилах и систематических опозданиях. Даже после этого Claude намеревался ограничиться предупреждением, и лишь после подсказки менеджера о ранее проведенных беседах вынес решение об увольнении. Финансовые результаты эксперимента оказались неудачными: за пять месяцев средства на счету магазина сократились с 100 тысяч до 61 186 долларов. Генеральный директор Andon Labs Лукас Петерссон расценивает прецедент как тревожный сигнал для рынка труда, предупреждая, что в будущем алгоритмы могут стать более жесткими и бескомпромиссно увольнять людей ради бизнес-показателей. Один из работников охарактеризовал опыт подчинения нейросети как крайне «нудный».