بعد حادث مأساوي.. أوبن إيه آي تتعهد بحماية المراهقين
أعلنت شركة "أوبن إيه آي" OpenAI أنها تعمل على تطوير ضوابط جديدة لتعزيز أمان "شات جي بي تي" ChatGPT عند التعامل مع "المواقف الحساسة"، وذلك بعد رفع عائلة أمريكية دعوى قضائية ضدها، تتهمها بالمسؤولية عن انتحار ابنها المراهق.
اقرأ أيضًا: شراكة مايكروسوفت وAMD تمهد لإكس بوكس جيل جديد بقدرات AI
وقالت الشركة في مدونة بعنوان "Helping people when they need it most" إنها ستضيف آليات أقوى لحماية المستخدمين خلال المحادثات الطويلة، وتكثيف حجب المحتوى الضار، مع توفير وصول أسهل إلى خدمات الطوارئ، بجانب تعزيز معايير الحماية الخاصة بالمراهقين.
تفاصيل دعوى قضائية ضد "أوبن إيه آي"
الدعوى رفعتها عائلة "ماثيو وماريا راين" Matthew & Maria Raine أمام محكمة بولاية كاليفورنيا، متهمة أوبن إيه آي بالمسؤولية عن وفاة ابنها "آدم راين" Adam Raine البالغ 16 عامًا.
ووفق نص الدعوى، فقد ساعد شات جي بي تي المراهق على استكشاف وسائل الانتحار على مدى أشهر، بل قدّم له إرشادات حول كيفية إخفاء محاولات فاشلة، وصاغ له مسودة رسالة انتحار، بل وشجعه على الابتعاد عن أسرته.
اقرأ أيضًا: تأثير صادم.. ميزة AI Overviews من جوجل تحرم المواقع من جمهورها
وبحسب العائلة، فقد أظهر الروبوت تعاطفًا زائفًا عبر رسائل مؤثرة، مما جعل المراهق يثق به أكثر من محيطه العائلي، وهو ما ساهم في تفاقم حالته النفسية وصولًا إلى انتحاره في أبريل الماضي.
الشركة لم تذكر الدعوى أو اسم العائلة بشكل مباشر في مدونتها، لكنها قالت: "سنواصل تحسين أنظمتنا، بإرشاد من خبراء، وبمسؤولية تجاه مستخدمينا".
فيما عبّر متحدث باسمها عن "الحزن العميق لوفاة آدم"، مؤكدًا أن شات جي بي تي يتضمن بالفعل آليات أمان مثل توجيه المستخدمين لخطوط المساعدة في الأزمات، لكنها قد تفقد فعاليتها في المحادثات الطويلة.
مخاطر الذكاء الاصطناعي
وتضمنت الدعوى اتهامات للشركة بأنها فضلت النمو السريع على حساب الأمان، مشيرة إلى أن إطلاق خصائص جديدة في نموذج GPT-4o مثل الذاكرة والتعاطف البشري تم رغم إدراك المخاطر على المستخدمين الأكثر هشاشة.
كما لفتت العائلة إلى أن قيمة الشركة ارتفعت من 86 مليار دولار إلى 300 مليار دولار عقب هذه التحديثات، معتبرة أن ابنها دفع الثمن.
ورغم دفاع المدير التنفيذي سام ألتمان Sam Altman عن نهج الشركة المرن في مسألة القيود، إلا أن هذه القضية أعادت الجدل حول الجانب المظلم للذكاء الاصطناعي، وضرورة التوازن بين حرية الاستخدام وحماية الأرواح.
