Вы дали задание агенту? Вот как убедиться, что он не получает указания от кого-то другого

Практическое руководство для менеджеров, использующих ИИ-помощников при найме: как скрытая инструкция в файле резюме может ввести систему в заблуждение и как проверить доказательства перед принятием решения.

Статья представляет практическое руководство для менеджеров, использующих ИИ-помощников в процессах найма, и предупреждает о явлении косвенной инъекции промптов (Indirect Prompt Injection). Ноам Коэн, основатель CritiqeIL, объясняет, как скрытая инструкция в файле резюме может заставить помощника рекомендовать неподходящего кандидата, представляя аргументированную, но ошибочную рекомендацию. Статья рекомендует попросить помощника показать источник каждого утверждения, самостоятельно проверить доказательства и оставить окончательное решение за человеком. Отмечается, что организация OWASP и документы Microsoft предупреждают об этом риске, но не приводится конкретный пример его возникновения.