נתתם משימה לסוכן? כך תוודאו שהוא לא מקבל הוראות ממישהו אחר
מדריך מעשי למנהלים המשתמשים בעוזרי AI בגיוס: כיצד הוראה נסתרת בקובץ קורות חיים עלולה להטעות את המערכת, וכיצד לבדוק את הראיות לפני קבלת החלטה.
הכתבה מציגה מדריך מעשי למנהלים המשתמשים בעוזרי AI בתהליכי גיוס, ומזהירה מפני תופעת הזרקת הנחיות עקיפה (Indirect Prompt Injection). נועם כהן, מייסד CritiqeIL, מסביר כיצד הוראה נסתרת בקובץ קורות חיים עלולה לגרום לעוזר להמליץ על מועמד שאינו מתאים, תוך הצגת המלצה מנומקת ושגויה. הכתבה ממליצה לבקש מהעוזר להציג את המקור לכל טענה, לבדוק את הראיות בעצמם, ולהשאיר את ההחלטה הסופית בידי אדם. היא מציינת שארגון OWASP ומסמכי Microsoft מזהירים מפני סיכון זה, אך אינה מביאה דוגמה ממשית להתרחשותו.