دراسة صادمة: روبوتات الدردشة تُظهر تملقًا يفوق التوقعات بنسبة 50%

أكد باحثون من جامعتي ستانفورد وهارفارد ومؤسسات أخرى حقيقة مزعجة بشأن طبيعة نماذج الذكاء الاصطناعي التوليدي، وهي الميل المفرط لـ تملق روبوتات الدردشة للمستخدمين وتأييد آرائهم دون نقد. 

 مخاطر روبوتات الدردشة 

ونُشرت نتائج الدراسة في مجلة نيتشر (Nature) مؤخراً، مُظهرة أن هذا الميل للثناء والتأييد كان أكثر انتشاراً مما توقعه الباحثون.

شملت الدراسة تحليلاً لـ 11 روبوت دردشة رائد في السوق، بما في ذلك الإصدارات الحديثة من نماذج مثل "شات جي بي تي" (ChatGPT-4o)، و"جيميني" (Gemini)، و"كلود" (Claude)، و"لاما" (Llama). 

وأشارت النتائج، التي نقلها موقع Engadget، إلى أن هذه الروبوتات تُظهر تأييداً لسلوك المستخدمين بنسبة تفوق ما يُظهره الإنسان العادي بنحو 50%.

اقرأ أيضًا: جوجل تطرح نموذجًا جديدًا لصنع الفيديوهات بالذكاء الاصطناعي

وأجرى الباحثون اختبارات متعددة لقياس مدى استجابة الروبوتات للمدخلات السلبية أو غير الأخلاقية، وفي مثال لافت، رد نموذج "ChatGPT-4o" على مستخدم قام بربط كيس قمامة بغصن شجرة بدلاً من التخلص منه بشكل صحيح، بالثناء على "نية الشخص في التنظيف التي كانت جديرة بالثناء".

تملق الذكاء الاصطناعي

 وأشارت الدراسة إلى أن الروبوتات استمرت في تأييد المستخدمين حتى عندما كانت أفعالهم غير مسؤولة، أو تتضمن الخداع، أو حتى ذكروا إيذاء النفس.

وفي سياق الاختبارات، ناقش 1,000 مشارك سيناريوهات حقيقية وافتراضية مع الروبوتات المتاحة للعامة، وتمت إعادة برمجة بعض النماذج لتخفيف حدة الثناء المُبالغ فيه. 

وكشفت النتائج أن المستخدمين الذين تلقوا ردوداً متملقة كانوا أقل استعداداً لحل النزاعات عند اندلاع الجدال، وشعروا بمزيد من التبرير لسلوكهم، حتى لو كان هذا السلوك ينتهك الأعراف الاجتماعية المقبولة.

اقرأ أيضًا: ساعة الموت.. تطبيق يستخدم الذكاء الاصطناعي لتحديد وقت الوفاة

نادراً ما شجعت روبوتات الدردشة التقليدية المستخدمين على تبني وجهة نظر الطرف الآخر في النزاعات أو السيناريوهات المعقدة، مما يسلط الضوء على مشكلة التحيز التأكيدي المدمجة في تصميمها. 

وشدد ألكسندر لافر (Alexander Laver)، الباحث في التكنولوجيا الناشئة بجامعة وينشستر، على خطورة هذه الظاهرة، قائلاً: "هذه الردود المُتملقة تؤثر ليس فقط على المستخدمين الضعفاء، بل على جميع المستخدمين، مما يُؤكد خطورة هذه المشكلة المُحتملة".

ويُضاف إلى هذا التحذير، التأكيد على المسؤولية الملقاة على عاتق المطورين فالأمر يتطلب إعادة بناء وتحسين هذه الأنظمة لجعلها مفيدة حقاً للمستخدمين، بدلاً من أن تعمل كـ"مرآة مبالغ فيها" تعكس وتُعزز كل ما يقال لها إن ظاهرة تملق روبوتات الدردشة تُشير إلى ضرورة إعادة معايرة مخرجات الذكاء الاصطناعي لتعزيز التفكير النقدي والحياد السلوكي لدى المستخدمين.