هل يمكن الوثوق بالذكاء الاصطناعي؟ "جيمّا" يثير الجدل ويسبب أزمة سياسية لجوجل

أعلنت شركة جوجل عن سحب نموذج الذكاء الاصطناعي "جيمّا" من منصتها AI Studio، وذلك بعد أن أثار النموذج جدلًا واسعًا بسبب تقديمه معلومات خاطئة ومضللة بحق عضو مجلس الشيوخ الجمهوري "مارشا بلاكبيرن".

النموذج، الذي صُمم خصيصًا للمطورين، تم استخدامه من قبل أفراد غير متخصصين للإجابة على أسئلة تتعلق بالحقائق، وهو ما اعتبرته جوجل استخدامًا غير مناسب منذ البداية. 

وأكدت الشركة أن "جيمّا" لم يكن مخصصًا للاستخدام الاستهلاكي أو للإجابة على الأسئلة الواقعية، ولهذا السبب تم سحب الوصول إليه من المنصة العامة، مع الإبقاء عليه متاحًا للمطورين عبر واجهة البرمجة فقط.

تفاصيل الادعاءات ضد مارشا بلاكبيرن 

وجهت عضو مجلس الشيوخ "مارشا بلاكبيرن" خطابًا رسميًا إلى المدير التنفيذي لشركة جوجل "سوندار بيتشاي"، اتهمت فيه نموذج الذكاء الاصطناعي "جيمّا" بترويج رواية كاذبة، تزعم أنها أقامت علاقة مع أحد أفراد الشرطة خلال حملتها الانتخابية عام 1987، وأنها طلبت منه الحصول على أدوية بوصفة طبية، وأن العلاقة تضمنت تصرفات غير رضائية.

النموذج دعم هذه المزاعم بروابط لمقالات إخبارية، تبين لاحقًا أنها مزيفة أو تؤدي إلى صفحات غير موجودة. 

وأكدت "بلاكبيرن" أن جميع هذه الادعاءات لا أساس لها من الصحة، بما في ذلك سنة الحملة التي كانت في الواقع عام 1998، ووصفت ما حدث بأنه تشهير متعمد من قبل نموذج مملوك لشركة جوجل، وليس مجرد خطأ تقني أو "هلوسة" عشوائية.

أخطاء نماذج الذكاء الاصطناعي وتأثيرها على السمعة

شركة جوجل لم تحدد التقارير التي دفعتها لاتخاذ قرار سحب النموذج، لكنها أشارت إلى أنها رصدت استخدامًا خاطئًا للنموذج من قبل غير المطورين، وهو ما أدى إلى نتائج غير دقيقة.

وأكدت الشركة أنها ملتزمة بتقليل نسبة "الهلوسات" في نماذجها وتحسين دقة الإجابات، لكنها لم تقدم جدولًا زمنيًا لحل هذه المشكلة. 

الحادثة تسلط الضوء على التحديات المستمرة التي تواجهها نماذج الذكاء الاصطناعي التوليدي في تقديم معلومات دقيقة، خاصة عند استخدامها من قبل الجمهور العام.

اقرأ أيضاً جوجل تطلق Veo 3.1 بميزات جديدة لتحسين الصوت وتحرير الفيديو

وفي رسالتها، طالبت "مارشا بلاكبيرن" بإيقاف النموذج بشكل كامل حتى تتمكن الشركة من السيطرة عليه، وضمان عدم تكرار مثل هذه الحوادث.

كما أثارت القضية خلال جلسة استماع في مجلس الشيوخ حول دعوى تشهير أخرى ضد جوجل، تقدم بها الناشط "روبي ستاربَك"، مما يعكس تصاعد القلق السياسي من تأثير الذكاء الاصطناعي على السمعة الشخصية والمعلومات العام.