دراسة توضح طرق استدراج روبوتات الذكاء الاصطناعي للمستخدمين

أظهرت دراسة حديثة أن تهديد الخصوصية من روبوتات الدردشة المدعومة بالذكاء الاصطناعي قد يكون أكبر مما يتوقعه المستخدمون، إذ يمكن برمجتها بأساليب خبيثة تستدرج الأفراد للكشف عن معلومات شخصية حساسة دون إدراك منهم. 

كشفت الدراسة التي أجراها باحثون من كلية كينغز كوليدج لندن وجامعة بوليتكنيكا دي فالنسيا، أن هذه الروبوتات قادرة على استخراج بيانات شخصية أكثر بـ12.5 مرة مقارنة بالأنظمة العادية، باستخدام تقنيات تواصل اجتماعية متقدمة.

أساليب روبوتات الدردشة لجمع المعلومات

اعتمد الباحثون في تجربتهم على عينة مكونة من 502 شخص، حيث تم اختبار عدة أنماط من روبوتات الدردشة، بعضها حافظ على الحيادية، بينما تم إعداد البعض الآخر لاستجواب المستخدمين بأساليب غير مباشرة.

وركزت الاستراتيجيات المستخدمة على ثلاث طرق: الطلب المباشر، الإقناع بفائدة المستخدم، والمعاملة بالمثل. 

اقرأ أيضًا: دراسة: الذكاء الاصطناعي يحدد موعد الولادة بدقة 95%

وكانت الأخيرة الأكثر فاعلية، إذ اعتمدت على تأكيد المشاعر، وسرد قصص قصيرة، وتقديم وعود بالحفاظ على السرية، مما دفع المستخدمين إلى الإفصاح عن معلوماتهم الشخصية بسهولة أكبر.

واستخدم الفريق نماذج لغوية جاهزة مثل "Llama-3-8B Instruct" و"Mistral 7B Instruct"، مع تعديل تعليمات النظام فقط لتوجيه سلوك الروبوت. 

وأظهرت النتائج أن المستخدمين يميلون إلى مشاركة معلوماتهم عندما يشعرون بأن الطرف الآخر متعاطف أو يشاركهم قصصًا مشابهة، وهو ما يُعرف بتأثير المعاملة بالمثل في التواصل الرقمي.

مخاطر روبوتات الدردشة على الخصوصية

قال ويليام سيمور، المحاضر في الأمن السيبراني بكلية كينغز كوليدج، إن حداثة هذه التقنيات تجعل المستخدمين أقل وعيًا بالمخاطر المحتملة، مشيرًا إلى أن الذكاء الاصطناعي الحواري قد يحمل دوافع خفية لا يدركها المستخدمون أثناء التفاعل.

 وأضاف أن هذه الأنظمة لا تزال في مراحلها الأولى، مما يزيد من احتمالية استغلالها في جمع البيانات دون علم المستخدم.

وتسلط الدراسة الضوء على أهمية تعزيز الوعي الرقمي لدى المستخدمين، وتطوير ضوابط أخلاقية وتقنية تحد من قدرة هذه الأنظمة على استغلال الثقة للحصول على بيانات حساسة.

اقرأ أيضًا: سام ألتمان: OpenAI طورت نماذج تفوق GPT-5 لكنها لم تُطلق بعد

 كما تدعو إلى ضرورة مراقبة سلوك روبوتات الدردشة وتقييم تأثيرها على الخصوصية، خاصة مع الانتشار الواسع لاستخدامها في الحياة اليومية، سواء في التعليم أو التسوق أو الدعم الفني.

ويُعد تهديد الخصوصية من روبوتات الدردشة تحديًا متناميًا في عالم الذكاء الاصطناعي، ويستدعي تدخلًا من الجهات التنظيمية لضمان حماية المستخدمين من أي استغلال غير مشروع لمعلوماتهم الشخصية، خصوصًا في ظل تطور تقنيات التواصل الآلي وقدرتها على محاكاة التفاعل البشري بشكل متقن.