קיללתם את הבינה המלאכותית? מעכשיו אתם עלולים להיחסם לצמיתות
חברת הבינה המלאכותית אנתרופיק עדכנה את מדיניות השימוש בקלוד ואוסרת על התנהגות אכזרית ופוגענית כלפי המודלים, תוך איום בחסימה לצמיתות במקרים קיצוניים. ההחלטה עוררה לעג ברשתות, אך מומחים מציינים סיבות טכנולוגיות ואבטחתיות מאחוריה.
חברת הבינה המלאכותית אנתרופיק, המפתחת את הצ'אטבוט קלוד, עדכנה את מדיניות השימוש שלה ואוסרת על התנהגות אכזרית ופוגענית באופן מתמשך כלפי מודלי הבינה המלאכותית. הכללים החדשים, שייכנסו לתוקף ב-12 בנובמבר, מאפשרים לחברה לנקוט צעדים נגד משתמשים שיפרו אותם, כאשר מנגנון האכיפה המרכזי יהיה סיום שיחות פוגעניות בידי המערכת עצמה. ההחלטה עוררה לעג וביקורת ברשתות החברתיות, אך גם דיון בשאלות הנוגעות לבטיחות המודלים ולהשפעת היחס אליהם. מומחים מציינים כי מעבר לשאלת הרגש של המכונה, עומדות מאחורי ההחלטה סיבות טכנולוגיות ואבטחתיות מבוססות היטב, בעיקר לקראת הנפקת המניות הצפויה של החברה בבורסה בהמשך החודש. מנכ"ל רדיט לשעבר, יישאן וונג, הסביר שהמודל 'לומד מאכזריות', ומחקרים הראו כי לטון הדיבור יש השפעה ישירה על ביצועי הבינה המלאכותית. הכתבה מצטטת גם את אילון מאסק, שהגדיר את המדיניות כ'צעד הנכון'.