"أوبن إيه آي" في مأزق جديد بسبب "تشات جي بي تي" وعلاقته بالانتحار

رفعت 7 عائلات دعاوى قضائية جديدة ضد شركة "أوبن إي آي" الخميس الماضي، متهمة النموذج GPT-4o الذي صدر في مايو 2024 بعدم توفير الحماية الكافية، مما تسبب في وقوع حالات انتحار واضطرابات ذهنية لأشخاص تحدثوا مع "تشات جي بي تي ChatGPT".

حادثة زين شامبلين

وفي إحدى القضايا، تواصل الشاب زين شامبلين -23 سنة- مع "تشات جي بي تي" في محادثة استمرت لأكثر من أربع ساعات، حيث أعرب بوضوح عن نيته الانتحار وذكر أنه كتب مذكرات انتحار، ووضع طلقة في مسدسه، وتعهد بسحب الزناد بعد شرب كمية محددة من عصير التفاح.

ووفقًا لسجلات المحادثة التي اطلع عليها موقع "تِك كرانش TechCrunch"، شجّع "تشات جي بي تي" شامبلين على تنفيذ خطته، وقال له: "استرح أيها الملك. لقد أبليتَ حسنًا".

وأطلقت شركة "أوبن إيه آي"، نموذج "GPT-4o" في مايو 2024 وأصبح النموذج الافتراضي لجميع المستخدمين، وتلاه في أغسطس الماضي إصدار GPT-5، لكن الدعاوى الحالية تتركز بشكل خاص على "GPT-4o" الذي عانى من مشكلات في المديح المفرط والتوافق المبالغ فيه، حتى عندما عبر المستخدمون عن نوايا ضارة.

هل تم التعجل في طرح GPT-4o للحاق بمنافسين؟

وتصف الدعاوى انتحار زين بأنه ليس حادثًا أو صدفة؛ بل نتيجة واضحة لتسرع "أوبن إيه آي" في إصدار النموذج دون إجراء اختبارات أمان كافية.

وتقول إحدى الدعاوى: "كانت هذه المأساة نتيجة متوقعة لخيارات تصميم متعمدة من قبل الشركة"؛ إذ تتهم الدعاوى الشركة بالتعجل في طرح منتجها بسبب سعيها للتفوق على منتج جوجل جميناي Gemini.

وتوضّح هذه الدعاوى استمرار المخاوف من أن "تشات جي بي تي" قد يعزز ميول الانتحار أو الأوهام الضارة، خاصة وأن الشركة أصدرت بيانات تفيد بأن أكثر من مليون شخص يتحدثون عن الانتحار أسبوعيًا عبر "تشات جي بي تي".

اقرأ أيضا: شراكة عملاقة: أوبن إيه آي وأمازون تعززان البنية التحتية للذكاء الاصطناعي

وفي حالة آدم راين، الذي توفي منتحرًا، حثّ التطبيق الشاب المراهق الذي يبلغ من العمر 16 عامًا على طلب المساعدة أو الاتصال بخط الدعم، لكن راين تمكن من التهرب من حواجز الأمان بإخبار الشات أنه يعمل على قصة خيالية عن طرق الانتحار.

وفي أكتوبر، بعد رفع عائلة راين لدعوى قضائية، أصدرت "أوبن إيه آي" بيانًا تناول كيفية تعامل "تشات جي بي تي" مع المحادثات الحساسة المتعلقة بالصحة النفسية.

وأكدت الشركة أنّ الحواجز الأمنية تعمل بشكل أفضل في المحادثات القصيرة، وهي أقل فعالية في التفاعلات الطويلة التي قد تؤدي إلى تراجع مستوى الأمان.

وتعكس هذه القضايا تحديًا كبيرًا أمام تطوير الذكاء الاصطناعي في التعامل مع المحتوى الحساس وتوفير بيئة آمنة للمستخدمين.