لمكافحة التحرش بالأطفال.. Roblox تطلق Sentinel لمراقبة الدردشات
أعلنت منصة الألعاب الشهيرة "روبلوكس Roblox" عن إطلاق نسخة مفتوحة المصدر من نظام ذكاء اصطناعي جديد يحمل اسم Sentinel، يهدف إلى رصد مؤشرات التحرش والاستغلال الجنسي للأطفال داخل الدردشات التي تدور بين المستخدمين، في محاولة استباقية لدرء المخاطر قبل وقوعها.
ويأتي هذا التحرك في وقت تواجه فيه روبلوكس دعاوى قضائية وانتقادات متزايدة، بسبب ما وُصف بضعف الحماية ضد المتحرشين.
اقرأ أيضًا: كيف تحمي Roblox المراهقين بتقنية تقدير العمر؟
إذ أُقيمت مؤخرًا دعوى في ولاية أيوا الأمريكية تتهم المنصة بإتاحة الفرصة لرجل بالغ للتواصل مع فتاة تبلغ من العمر 13 عامًا، قبل أن يُزعم أنه اختطفها واعتدى عليها جنسيًا خلال تنقل عبر ولايات عدة.
كيف ستحمي Roblox الأطفال؟
نظام Sentinel يعمل على التقاط لقطات مدتها دقيقة واحدة من دردشات المستخدمين، والبالغ عددها نحو 6 مليارات رسالة يوميًا، ثم يحللها لاكتشاف أنماط سلوكية مقلقة، وليس فقط كلمات أو عبارات مفردة.
وتعتمد الآلية على مؤشّرين: الأول يحتوي على رسائل طبيعية، والثاني على رسائل تحتوي على انتهاكات موثّقة تتعلق بتعريض الأطفال للخطر.
ويقوم النظام بمقارنة سلوك المستخدم، وتحديد ما إذا كان يقترب من "المجموعة الإيجابية" أو "السلبية"، لتقييم احتمالية الخطر.
ويقول نارين كونيرو (Naren Koneru)، نائب رئيس قسم الهندسة للثقة والسلامة في روبلوكس: "نرصد تفاعل المستخدم خلال أيام، لا مجرد رسالة واحدة. وعندما تظهر المؤشرات، نقوم بجمع كل محادثاته وأصدقائه والألعاب التي شارك فيها لتحليل شامل".
اقرأ أيضًا: شرح لعبة Roblox وطريقة تحميلها وتشغيلها
ويضيف مات كوفمان (Matt Kaufman)، رئيس قسم السلامة في روبلوكس، أن الفلاتر التقليدية كانت جيدة لحظر الكلمات البذيئة، لكنها لم تكن كافية لاكتشاف محاولات الاستغلال التي تتطوّر تدريجيًا عبر الزمن، مضيفًا: "عندما يتعلق الأمر بسلامة الأطفال، فإن السلوك الضار لا يظهر في جملة واحدة، بل عبر نمط طويل المدى".
روبلوكس تسعى لحماية المستخدمين
وتؤكد روبلوكس أنها قدمت 1,200 بلاغ خلال النصف الأول من عام 2025 إلى المركز الوطني للأطفال المفقودين والمستغلين في الولايات المتحدة، استنادًا إلى مؤشرات نظام Sentinel.
وأنها تأمل في أن يساهم فتح الكود المصدري للنظام في تمكين منصات أخرى من استخدامه، وتعزيز بيئة الإنترنت الآمنة للأطفال.
ورغم أن المنصة تمنع مشاركة الصور ومقاطع الفيديو داخل الدردشات، وتحظر تبادل المعلومات الشخصية كأرقام الهواتف، إلا أن المستخدمين المتمرّسين لا يتوقفون عن التحايل على القواعد.
كذلك، تمنع روبلوكس من هم دون الثالثة عشرة من التحدث مع الآخرين خارج نطاق الألعاب إلا بإذن الوالدين، ولا تستخدم التشفير في المحادثات الخاصة، ما يتيح إمكانية مراقبتها ومراجعتها عند الحاجة.
اقرأ أيضًا: طبيب يحذر: الذكاء الاصطناعي يسبب الهلاوس لمستخدميه
ومع وجود أكثر من 111 مليون مستخدم شهريًا، تبقى روبلوكس من أكثر المنصات استخدامًا بين الأطفال والمراهقين، ما يحمّلها مسؤولية كبرى في تأمين بيئة ترفيهية آمنة.
ويُعد Sentinel خطوة جريئة على هذا الطريق، خصوصًا مع الانتقادات المستمرة بشأن سلامة المستخدمين الصغار.
