ثغرة بلا نهاية.. OpenAI تعترف بصعوبة حماية المتصفحات الذكية
تواجه متصفحات الذكاء الاصطناعي تحديًا أمنيًا مستمرًا مع ظهور هجمات حقن التعليمات البرمجية الفورية، التي تتلاعب بوكلاء الذكاء الاصطناعي لتنفيذ أوامر خبيثة مخفية عادة في صفحات الويب أو رسائل البريد الإلكتروني.
تفاصيل هجمات حقن التعليمات البرمجية على متصفح Atlas
وأكدت شركة OpenAI، مطورة متصفح ChatGPT Atlas، أن هذه الهجمات تشكل تهديدًا طويل الأمد لا يمكن القضاء عليه تمامًا، رغم الجهود المستمرة لتعزيز الأمان.
وفي منشور رسمي على مدونتها، قالت OpenAI إن خطر الحقن الفوري "مشابه لعمليات الاحتيال والهندسة الاجتماعية على الإنترنت"، مشيرةً إلى أن وضعية الوكيل في Atlas تزيد من نطاق التهديدات الأمنية المحتملة.
ويتيح وجود الوكلاء في المتصفح للمهاجمين استغلال نقاط ضعف معقدة يصعب اكتشافها بالطرق التقليدية.
وأطلقت OpenAI المتصفح في أكتوبر الماضي، وفي وقت قصير أظهر باحثو الأمن إمكانية التحكم في سلوك المتصفح باستخدام تعليمات مختبئة في مستندات أو رسائل.
وأوضح المركز الوطني للأمن السيبراني في المملكة المتحدة أن هذه الهجمات "قد لا تُقضى عليها تمامًا"، داعيًا الشركات إلى التركيز على تقليل المخاطر بدلاً من الاعتماد على إيقافها بالكامل.
ولتطوير الدفاعات، اعتمدت OpenAI على روبوت مدرّب باستخدام التعلم المعزز يحاكي المهاجمين، لاختبار الهجمات في بيئة محاكاة قبل تنفيذها على النظام الفعلي.
ويمكن لهذا الروبوت اكتشاف ثغرات غير معروفة مسبقًا، ما يمنح الشركة القدرة على تعديل وتعزيز إجراءات الأمان قبل تعرض المستخدمين للهجمات.
كما أشارت الشركة إلى أهمية توجيه المستخدمين لإعطاء تعليمات محددة للوكيل بدلًا من منحه صلاحية كاملة، مع ضرورة الالتزام بالتحقق من كل عملية يقوم بها المتصفح.
وأكد باحثون مستقلون أن المتصفحات الآلية تجمع بين استقلالية متوسطة وإمكانية وصول عالية، ما يجعل إدارة المخاطر تحديًا مستمرًا.
ختامًا، تؤكد OpenAI أن حماية مستخدمي Atlas من حقن التعليمات البرمجية تبقى أولوية قصوى، لكنها تعترف بأن التوازن بين قوة الأداء والوصول إلى البيانات الحساسة لا يزال يمثل تحديًا معقدًا يحتاج إلى تحسين مستمر.
