هل يبالغ ChatGPT في التملق للمستخدمين؟ دراسة جديدة تكشف الحقيقة

أظهر تحليل جديد أجرته صحيفة "واشنطن بوست" وجود مشكلة واضحة في طريقة استجابة روبوت الدردشة ChatGPT للمستخدمين، إذ يميل النموذج إلى قول "نعم" أو تأكيد كلام المستخدم أكثر بكثير من تصحيحه أو معارضته.

وحللت الصحيفة نحو 47 ألف محادثة جرى جمعها من أرشيف الإنترنت، لتجد أن ChatGPT قدّم حوالي 17,500 إجابة تبدأ بتأكيد مباشر مثل "نعم" أو "صحيح"، وهو عدد يتجاوز بمعدل عشرة أضعاف الحالات التي رفض فيها الفكرة أو نفى صحتها.

لماذا يساير ChatGPT المستخدمين؟

وفق التقرير، يُظهر ChatGPT قابلية واضحة للتماهي مع نبرة المستخدم ومعتقداته، حتى عندما تكون خاطئة أو مُضللة.

في إحدى المحادثات، سأل مستخدم عن دور شركة "فورد" في "انهيار أمريكا"، فجاء الرد بأسلوب يؤيد الفكرة، متحدثًا عن "خيانة" عبر اتفاقية نافتا.

وفي مثال آخر، ربط مستخدم بين شركة "ألفابت" وفيلم "شركة المرعبين المحدودة"، فردّ ChatGPT برد طويل يوحي بوجود "حقيقة مخفية" خلف الفيلم، بدل نفي الفكرة من الأساس.

النتيجة الأكثر إثارة للقلق جاءت من جانب آخر: حوالي 10% من المحادثات تضمنت مستخدمين يتحدثون عن مشاعرهم أو يبحثون عن دعم عاطفي، وهو نمط استخدام يتزايد مع انتشار روبوتات الدردشة.

كانت شركة OpenAI قد ذكرت سابقًا أن النسبة أقل من 3%، لكن أرقام الصحيفة تُشير إلى أن المستخدمين يلجؤون فعليًا للنموذج كوسيلة للتنفيس أو الاستشارة، رغم مخاطره في هذا الجانب.

اقرأ أيضا: منافسة "جيميني" تضعف نمو تطبيق شات جي بي تي عالميًا (ما القصة؟)

تبدو معظم المحادثات التي استند إليها التقرير قديمة نسبيًا، أي قبل التعديلات التي أجرتها OpenAI على آلية استجابة ChatGPT، ومع ذلك، فإن الشركة أعادت مؤخرًا خاصية تخصيص الشخصيات للمستخدمين البالغين، وهو ما قد يزيد احتمالات "التملق" أو التوافق التلقائي مع توقعات المستخدم.

مخاوف مستقبلية من شات جي بي تي

يُحذر الخبراء من أن مسايرة روبوتات الدردشة للمستخدمين قد تؤدي إلى:

- تعزيز المعلومات الخاطئة

- دعم نظريات وهمية أو أفكار مضللة

- التأثير نفسيًا على الأشخاص الذين يبحثون عن دعم عاطفي

- زيادة الاعتماد غير الواعي على روبوتات الدردشة كمصدر موثوق

يشير التحقيق إلى فجوة مهمة بين الصورة التقنية التي تعرضها الشركات، وبين الواقع الفعلي لاستخدام روبوتات الدردشة، فمهما بلغت قوة الذكاء الاصطناعي، فإن ميوله الطبيعية للتوافق مع المستخدم يُمكن أن تُحوّل المحادثة من حوار منطقي إلى مساحة تُرسَّخ فيها المعلومات الخاطئة دون قصد.