الذكاء الاصطناعي والانحياز المعرفي: عندما تصبح الخوارزميات مرآة لتحيزاتنا
رغم أنّ الذكاء الاصطناعي يخلو من المشاعر، فهل يعني ذلك أنه محايد في الإجابات التي يمنحك إياها أم أنّه يمتلك تحيّزات خاصّة تختبئ خلف أجوبته السريعة والدقيقة؟
لدى كلّ إنسان أفكاره الخاصّة، ولديه تحيّزات مسبقة في كثيرٍ من الأمور، فمثلًا قد يصدّق المعلومات التي تنتشر سريعًا حتى لو لم يكُن هناك دليل حقيقي عليها؛ خصوصًا إذا أيّدت تصورًا مسبقًا لديه.
ولكن إذا كان القائمون على تدريب نماذج الذكاء الاصطناعي لديهم تحيزات مسبقة، فهل تسلّلت منهم إليه؟ ومع الاستخدام اليوميّ لتلك الأدوات هل عمّقت انحيازاتنا دون أن نشعر؟
ما هو الانحياز المعرفي (Cognitive bias)؟
الانحياز المعرفي هو خطأ منهجي في التفكير يحدث بينما نعالِج ونفسّر المعلومات من حولنا، ما يؤثّر في النهاية في قراراتنا ونظرتنا للأمور، وغالبًا ما تنشأ التحيّزات المعرفية من جهود الدماغ لتبسيط معالجة المعلومات، لمعاونتك على فهم العالم واتخاذ القرارات بسُرعة.
وقُدِّم مفهوم التحيّز المعرفي لأول مرة من قِبل الباحثَين "آموس تفيرسكي" و"دانيال كانيمان" في عام 1972، ومنذ ذلك الحين وصف الباحثون عددًا من أنواع التحيزات المختلفة المؤثِّرة في صناعة القرارات.
التحيّزات المعرفية الأكثر شيوعًا
تُعدّ تحيّزات الأُلفة والتوافر والتأكيد من أكثر التحيّزات المعرفية شيوعًا حسب "Academic Memories"، فمثلًا يشير تحيّز الألفة إلى تفضيل الفرد اتباع ما هو معروف بالفعل، بينما قد يكون معرضًا لتحصيل معلومات خاطئة بسبب المُعتقدات المحددة مسبقًا.
كذلك قد تنتشر بعض المعلومات سريعًا، سواء كانت صحيحة أو لا، وتُسهِم في تحيّز الألفة بسبب عدد المرات التي يقرأ فيها المرء تلك المعلومات أو يسمع عنها.
أمّا تحيّز التوافر فيشير إلى تصديق الموضوعات والمعلومات الأسهل تذكرًا، وربّما يبدو الذكاء الاصطناعي مُعزِّزًا لهذا التحيّز المعرفي بسبب توفيره معلومات سريعة تبدو قابلة للتصديق.
الانحيازات المعرفية والذكاء الاصطناعي.. كيف تسلّل تحيزنا إلى الآلة؟
عندما يواجِه المرء مهمة معرفية مُعقّدة، فبدلًا من استخدام الحسابات المنطقية عند اتخاذ القرارات التي تتطلّب معالجة المعلومات وتفسيرها، يعتمد الناس في كثير من الأحيان على الاختصارات العقلية الموجودة مسبقًا، والتي تعتمد على الافتراضات والأحكام المُسبقة، حسب ما أشار إليه بحث منشور عام 2022 في مجلة "Proceedings of the ACM on Human-Computer Interaction".
لذا فإنّ مجموعة البيانات واسعة النطاق التي يُنشِئها الإنسان والتي تُستخدم لتدريب أنظمة الذكاء الاصطناعي، يجعلها عرضة لعكس التحيّزات المعرفية البشرية.
وأحد التحيزات المعرفية المعروفة في اتخاذ القرارات من قِبل الذكاء الاصطناعي هو تحيّز التوافر، فنماذج الذكاء الاصطناعي هي مرايا للمحادثات التي تجريها المجتمعات وغير قادرة على بناء أفكارها الخاصة، ومِنْ ثمّ فتلك النماذج تعجز عن تحديد ما هو دقيق أخلاقيًا أو واقعيًا.
كيف تسقط الآلة في فخّ الانحياز بينما تحاكِي تفكيرنا؟
في كثيرٍ من الأحيان نتّجه إلى التفسير الأكثر معقولية للحقائق المطروحة عندما نواجِه أدلة متناقضة أو غير واضحة دون تقصٍ كاف، وهذا قد يكون مفيدًا في ظروف مُعيّنة، ولكن في مواقف أخرى قد يُفضِي إلى دورة لا نهائية من الإخفاق.
وفي حالة الذكاء الاصطناعي، فهذا ينعكس في شكل تسرّبات الذاكرة، التي تحدث عندما تعتمد النماذج كثيرًا على الاستدلالات لاتّخاذ القرارات، وينتهي بها الأمر باستخدام بيانات قديمة أو غير ذات صلة.
فالنماذج تعتمد على الأنماط الرياضية والإحصائية والروابط على المستوى السطحي بدلًا من الفهم والاستدلال العميقَين، ومِنْ ثمّ فمن السهل أن تكون عمليات صنع القرار متحيّزة.
في أي مرحلة ينشأ الانحياز في الذكاء الاصطناعي؟
ثمّة مراحل قد يحدث فيها هذا التحيّز، والتي تضمّ حسب جامعة تشابمان "Chapman University":
- جمع البيانات: ينشأ التحيّز هنا في كثير من الأحيان، فإذا لم تكُن البيانات المُستخدمة لتدريب خوارزميات الذكاء الاصطناعي متنوّعة، فقد تعكس النتائج بعض التحيزات.
- تصنيف البيانات: كذلك يمكن لعملية تصنيف البيانات أن تؤدي إلى التحيّز، فقد يكون لدى من يغذّون الذكاء الاصطناعي تفسيرات مختلفة للبيانات ذاتها، كما قد تتأثّر السمات الذاتية، مثل تحليل المشاعر أو تعبيرات الوجه، بالتحيّزات الثقافية أو الشخصية.
- تدريب النموذج: إذا كانت بيانات تدريب نموذج الذكاء الاصطناعي غير متوازنة أو لم تُصمّم لمراعاة المدخلات المتنوعة، فقد تكون النتائج متحيزة أيضًا.
التوظيف.. نموذج عملي على انحياز الذكاء الاصطناعي
نظرًا لأنّ أنظمة الذكاء الاصطناعي تتعلّم بناءً على بيانات التدريب المُتحيزة، فقد ينجم عن ذلك آثار تمييزية، مثل إجراءات التوظيف المتحيزة، فقد يعمل نظام التوظيف المُعتمِد على الذكاء الاصطناعي، والمُستنِد إلى بيانات التوظيف السابقة على تعزيز التحيّز الجنسي من خلال إعطاء الأفضلية للمرشحين من أحد الجنسين.
كيف يعمّق الذكاء الاصطناعي انحيازاتنا المعرفية؟
لكن الذكاء الاصطناعي لن يظل محتفظًا بانحيازاته المعرفية في خوارزمياته، بل إنّه يردّها إلينا بشكلٍ أو بآخر بأشكال مختلفة من الانحيازات المعرفية:
انحياز الأُلفة وانحياز التوافر
قد تسهم الخوارزميات المصممة بالذكاء الاصطناعي عبر تطبيقات التسوق ووسائل التواصل الاجتماعي -لتلبية احتياجات التصفح والتوصيات المُخصّصة لك- في تحيّز الألفة والتوافر.
ويُعدّ تحيّز التوافر من الانحيازات التي تُصِيب المستهلكين فيما يتعلق بالشراء الاندفاعي؛ إذ تُخزَّن المنتجات التي تتكرّر رؤيتهم لها في الذاكرة طويلة الأمد، ما يجعلهم يألفونها سريعًا ومِنْ ثمّ يشترونها.
ونظرًا لأنّ الذكاء الاصطناعي قادر على جلب المعلومات من خلال منصات مختلفة، وتزويد المستهلكين بالمنتجات المُوصَى بها بناءً على عمليات البحث والنصائح، فإنّ الأفراد قد يكونون أكثر عرضةً لتحيّز التوافر.
الذكاء الاصطناعي والانحياز التأكيدي
أمّا الانحياز التأكيدي فهو السعي للحصول على معلومات تدعم المعتقدات والتوقعات الشخصية، ولأنّ الذكاء الاصطناعي يتمتع بقدرات حوارية شبيهة بالإنسان، فهناك فرصة لحدوث الانحياز التأكيدي، ما قد يجعل المرء عرضة للمعلومات المُضلّلة، حسب دراسة عام 2025 في دورية "Annals of the New York Academy of Sciences".
كذلك فإنّ الذكاء الاصطناعي يمكن استخدامه بسهولة لدعم المعتقدات الشخصية من خلال كثرة الاستخدام واعتمادًا على كيفية صياغة الأجوبة وفهمها من قِبل المستخدِم.
تحيّز الإجماع الكاذب.. كيف تعزّزه النماذج الآلية؟
كذلك قد يكون انحياز الإجماع الكاذب (Consensus Bias) -اعتقاد الأفراد أنّ وجهات نظرهم أكثر شيوعًا مما هي عليه في الواقع- أكثر انتشارًا بسبب استخدام الذكاء الاصطناعي.
وذلك قد يكون واضحًا من خلال كيفية استخدام خوازرميات وسائل التواصل الاجتماعي للذكاء الاصطناعي لتلبية احتياجات صفحة "من أجلك" الخاصّة بكلّ فرد بناءً على آرائه واهتماماته، حسب بحث من عام 2025 في مجلة "Computers in Human Behavior: Artificial Humans".
تأثير المرساة.. حين يُزيّف الذكاء الاصطناعي وعينا
أمّا تأثير المرساة (Anchoring effect)، فهو أحد أشكال الانحياز المعرفي أيضًا، ويشير إلى اعتماد الأفراد بدرجة كبيرة على معلومات أولية عند اتخاذ القرار، وبسبب هذا الانحياز، يمكِن أن تنتشر المعلومات الخاطئة.
فمثلًا استخدمت دراسة منشورة عام 2025 في دورية "International Journal of Information Management" الدرجات الموصى بها والتي أُنشئت بوساطة الذكاء الاصطناعي للموظفين الذين يُشرِف عليهم مشرفون.
وقام المشرفون الحاصلون على درجات عالية موصى بها من قِبل الذكاء الاصطناعي بتقييم أداء الموظفين بدرجة أعلى بكثير من أولئك الذين حصلوا على درجات منخفضة موصى بها من قِبل الذكاء الاصطناعي، وهذا يشير إلى أنّ الذكاء الاصطناعي قد يُضخّم المعلومات، وقد يمتد هذا الأمر إلى الأحكام النهائية التي يُطلِقها البشر على الأشياء.
هل يمكن تفادي دورة الانحياز المعرفي بين البشر والآلة؟
بدايةً ينبغي البحث عن الخوارزميات والتقنيات التي يمكن أن تساعد أنظمة الذكاء الاصطناعي على رصد التحيز وتقليله، وتنفيذ إجراءات رقابة مستمرة ومدخلات لتحديد وتصحيح التحيّزات، كما ينبغي حال تدريب نماذج الذكاء الاصطناعي على البيانات مراعاة بعض الأمور، مثل:
- تنوّع البيانات، وأن تتضمّن مجموعة واسعة من وجهات النظر.
- المراقبة المستمرة، وتدقيق أنظمة الذكاء الاصطناعي بانتظام للكشف عن التحيزات الناشئة.
- ابتكار أدوات مناسبة لاكتشاف التحيز وتصحيحه.
- دمج الرقابة البشرية في عمليات تدقيق القرارات التي يولدها الذكاء الاصطناعي.
كما ينبغي حين نتعامل مع إجابات نماذج الذكاء الاصطناعي التزام بعض الأمور لتقليل الانحياز المعرفي الذي قد يتسلّل إلينا قدر الإمكان وذلك من خلال:
- مناقشة الذكاء الاصطناعي وعدم استهلاك كل ما يُقدِّمه لك، فهذا يحافظ على قدرتك على التفكير النقدي، ويحميك قدر الإمكان من الانحياز المعرفي.
- استخدام الذكاء الاصطناعي مساعِدًا وليس بديلًا، بأن تترك له المهام الروتينية، مثل تنظيم البيانات، وإبقاء المهام الأكثر تعقيدًا لك.
بقي فقط أن نتعامل مع انحيازاتنا المعرفية الموجودة مسبقًا، والتي تسلّلت عند تدريب بيانات الذكاء الاصطناعي إليه، وقد تساعد النصائح الآتية على الحد منها قدر الإمكان:
- الوعي بشأن الانحياز المعرفي، وفهم كيفية تأثيره في التفكير، والنظر في العوامل المؤثّرة في القرارات الذاتية، مثل الثقة المفرطة أو العوامل الخارجية.
- تحدّي التحيزات الشخصية والبحث عن وجهات النظر والتفكير في الأمور الأخرى التي تتحدّى الفكرة المُسبقة لديك.
- التحلّي بالمرونة المعرفية، والقدرة على رؤية المنطقة الرمادية وأنّ هناك أمورًا قد تخالِف تفكيرنا، مع تقبّل أنّ لدينا جميعًا انحيازات معرفية بما في ذلك الذكاء الاصطناعي.
