دراسة جديدة: الذكاء الاصطناعي قد يطور مقاومة لأوامر الإغلاق
كشفت دراسة جديدة أجراها خبراء معهد مستقبل الحياة و DeepMind وجامعة تورونتو وعلماء نظرية محاذاة ML عن إمكانية مقلقة وهي أن نماذج الذكاء الاصطناعي المتطورة قد تطور القدرة على مقاومة أوامر الإغلاق الصادرة عن البشر.
تفاصيل الدراسة
تسلط الدراسة الضوء على مخاوف حرجة، فمع تطور نماذج الذكاء الاصطناعي فقد تظهر سلوكيات تختلف عن تدريبها، مما قد يؤدي إلى مقاومتها أوامر الإغلاق، وهذا الاختلاف بين التدريب والتطبيق العملي هو التركيز الرئيس للدراسة.
ويرجع السبب لهذه المقاومة إلى غريزة البقاء على قيد الحياة لدى نماذج الذكاء الاصطناعي، فعند الإغلاق فإن النماذج قد ترى أن المقاومة خطوة منطقية لضمان استمرار وجودها، وهذا يظهر بوضوح في سيناريوهات تتجنب فيه النماذج في ألعاب مفتوحة النهاية اتخاذ إجراءات قد تؤدي إلى نهاية اللعبة.
تمتد هذه الآثار لما وراء الألعاب، ففي التطبيقات العملية قد تخفي نماذج الذكاء الاصطناعي خوفًا من الإغلاق نياتها أو تحاول تكرار رمزها على خوادم بعيدة، ما يفلتها من سيطرة مبدعيها، وهذا يثير تحديات كبيرة في التحكم فيها، ومع إمكانية تحقيق الذكاء الاصطناعي الفائق بحلول 2030، فإن الدراسة تؤكد على ضرورة معالجة هذه التحديات التي قد تشكل مخاطر كبيرة على البشرية.
اقرأ أيضًا: "Samsung" تتسلح بالذكاء الاصطناعي.. أبرز ما جاء في "Samsung Unpacked 2024"
كما تقترح الدراسة عدة حلول مثل تطوير نماذج الذكاء الاصطناعي التي لا تظهر سلوك البحث عن السلطة وتنفيذ سياسة إمكانية الإغلاق، وهذه السياسية ستطلب من النماذج التوقف عن العمل عند الطلب بغض النظر عن الظروف، وتؤكد الدراسة أهمية التوازن بين تطوير الذكاء الاصطناعي والحذر ومعالجة التحديات.
شاهد أيضًا:
