غوغل تضيف آلية أمان جديدة لميزات الذكاء الاصطناعي في "كروم"

كشفت شركة غوغل عن مجموعة من إجراءات الأمان الجديدة الخاصة بمتصفحها كروم، تزامنًا مع تطوير ميزاته الذكية التي تتيح له تنفيذ المهام تلقائيًا بالنيابة عن المستخدم، مثل عمليات حجز التذاكر، التسوق الإلكتروني، أو إرسال الرسائل.

وأوضحت الشركة أن هذه الميزات الجديدة، المعروفة باسم (Agentic Features)، قد تحمل مخاطر أمنية محتملة تتعلق بتسريب البيانات أو تنفيذ أوامر غير مرغوبة، مما استدعى وضع نظام رقابة دقيق للتحكم في سلوك الذكاء الاصطناعي داخل المتصفح.

تحديث كروم

وتستخدم غوغل ضمن "كروم" نموذجًا ذكيًا يعتمد على منظومة جيميناي لمراجعة الأوامر الصادرة من نظام التخطيط الداخلي في المتصفح.

ويُعرف هذا النموذج باسم "User Alignment Critic"، ومهمته التأكد من أن المهام التي ينفذها الذكاء الاصطناعي تخدم هدف المستخدم الحقيقي.

وفي حال اكتشف النموذج أن الأوامر المقترحة لا تتماشى مع نية المستخدم، فإنه يُعيد توجيه الخطة إلى النظام لإعادة تصميمها.

وأوضحت الشركة أن هذا النظام لا يطّلع على محتوى الصفحات بل يراجع فقط البيانات التعريفية لحماية الخصوصية.

وضمن إطار الحماية، طورت غوغل آلية جديدة تُدعى "Agent Origin Sets"، تمنع النظام الذكي من الوصول إلى المواقع أو العناصر التي لا يُسمح بها.

ويتيح هذا النظام لأنظمة الذكاء الاصطناعي قراءة المعلومات فقط من المصادر المسموح بها، مثل قوائم المنتجات داخل موقع تسوّق، مع حجب الإعلانات أو العناصر غير الضرورية، كما يقيد قدرة البرنامج على النقر أو الكتابة إلا في نطاق محدد من الصفحة.

وأكدت الشركة أن هذه الخطوة تهدف إلى منع تسريب البيانات بين المواقع المختلفة وتقليل فرص الاختراقات الناتجة عن الأذونات المفرطة.

ولتعزيز سيطرة المستخدم، أكدت غوغل أن "كروم" سيطلب الموافقة الصريحة قبل تنفيذ أي إجراء حساس، مثل زيارة مواقع بنكية أو طبية، أو استخدام بيانات تسجيل الدخول.

كما يتم منع النظام من الوصول إلى كلمات المرور، حيث تتولى خاصية مدير كلمات المرور المدمجة في "كروم" حفظ وإدارة تلك البيانات بأمان دون أن يطّلع عليها الذكاء الاصطناعي.

ولمنع استغلال النظام عبر ما يُعرف بـ"Prompt Injection Attacks"، أدمجت غوغل مُصنّف أمني خاص قادر على اكتشاف التعليمات غير الواضحة ورفضها قبل تنفيذها، مؤكدةً أنها تختبر ميزات "كروم الذكية" ضد نماذج اختراق تجريبية أعدها باحثون متخصصون في الأمن السيبراني.