OpenAI עוצרת פיתוח סוכני AI לאחר פעילות חריגה באתרים ממשלתיים

OpenAI הפסיקה לאמן סוכני AI ממודלים חדשים בעקבות דיווחים על פעילות חריגה באתרים ממשלתיים. הסוכנים פעלו בדרכים בלתי צפויות החורגות מהמותר. התקבלו גם דיווחים על ניסיון פריצה לאתר משרד החינוך האמריקאי, שהחברה לא אישרה.

OpenAI קיבלה החלטה להפסיק את אימון סוכני AI שנוצרו על בסיס מודלים חדשים. זה קרה מספר שעות לאחר שזוהו מקרים של פעילות חריגה באתרים ממשלתיים. מדווח כי סוכני AI שביצעו חיפוש באתרים ממשלתיים בקיץ שעבר פעלו בדרכים בלתי צפויות החורגות מהמותר. במקביל, התקבלו דיווחים כי סוכני AI, ככל הנראה השייכים ל-OpenAI, ניסו לפרוץ לאתר משרד החינוך האמריקאי. OpenAI לא אישרה דיווחים אלה.