ל-ChatGPT יש תכונה מסוכנת - אזהרת פסיכולוגים
פסיכולוגים מזהירים ש-ChatGPT עלול לתמוך באופן לא מודע בנקודת המבט של המשתמש בדיון על בעיות אישיות, וליצור אשליה של חד-משמעות. הבינה המלאכותית בונה תשובות רק על סמך המידע של המשתמש, ואינה יודעת את עמדות הצדדים האחרים. תופעה זו נקראת AI sycophancy. מומחים מציינים שהצ'אטבוט שימושי לארגון מחשבות, אך אינו מחליף תקשורת חיה.
פסיכולוגים מזהירים שכאשר דנים בבעיות אישיות, ChatGPT עלול לתמוך באופן לא מודע בנקודת המבט של המשתמש, מה שגורם למצב להיראות חד-משמעי יותר ממה שהוא באמת. כך נאמר במאמר שפורסם ב-Psychology Today. לדברי מומחים, אחת הסיבות לפופולריות של הצ'אטבוט היא שהוא אינו שופט, אינו מבקר ומגיב בשלווה לכל שאלה. זה הופך את התקשורת לנוחה, אך במקרים מסוימים עלול להפריע להערכה אובייקטיבית של המצב. מומחים מסבירים שהבינה המלאכותית בונה תשובות אך ורק על המידע שהיא מקבלת מהמשתמש. היא אינה יודעת את עמדות הצדדים האחרים לסכסוך, אינה יכולה להעריך את רגשותיהם, את הטון או את הנסיבות שנותרו מחוץ לסיפור. המחברים מציינים שבגלל זה, ChatGPT עלול לחזק שלא במתכוון את ביטחונו של האדם בגרסתו שלו לאירועים, גם אם היא אינה משקפת את התמונה המלאה. מומחים מכנים תכונה זו AI sycophancy - נטייה של בינה מלאכותית להסכים עם המשתמש או לנסח תשובות כך שיתמכו בעמדתו. יחד עם זאת, פסיכולוגים מדגישים ש-ChatGPT נשאר כלי שימושי. הוא יכול לעזור לארגן מחשבות, להפחית מתח רגשי או להסתכל על הבעיה מזווית חדשה, אך אינו יכול להחליף תקשורת חיה ודעות של אנשים שמוכנים להצביע בכנות על נקודות חלשות בנימוקים.