You are here

×

متى تصبح التكنولوجيا التنبؤية غير أخلاقية؟

لاأخلاقية التنبؤات الدقيقة وغير الدقيقة

لاأخلاقية التنبؤات الدقيقة وغير الدقيقة

التكنولوجيا التنبؤية : بين الفائدة والتعدي على الخصوصيات

التكنولوجيا التنبؤية : بين الفائدة والتعدي على الخصوصيات

كيف تعمل التكنولوجيا التنبؤية؟

كيف تعمل التكنولوجيا التنبؤية؟

كشف معلومات حساسة ..وبناء تنبؤات مستقبلية عليها

كشف معلومات حساسة ..وبناء تنبؤات مستقبلية عليها

ضبابية الحدود القانونية

ضبابية الحدود القانونية

 التكنولوجيا التنبؤية في مجال التسويق: التمييز هو الأساس

التكنولوجيا التنبؤية في مجال التسويق: التمييز هو الأساس

 تحد حقيقي لرسم الخط الذي تقف عنده الأهداف التنبؤية

تحد حقيقي لرسم الخط الذي تقف عنده الأهداف التنبؤية

لاأخلاقية التنبؤات الدقيقة وغير الدقيقة
التكنولوجيا التنبؤية : بين الفائدة والتعدي على الخصوصيات
كيف تعمل التكنولوجيا التنبؤية؟
كشف معلومات حساسة ..وبناء تنبؤات مستقبلية عليها
ضبابية الحدود القانونية
 التكنولوجيا التنبؤية في مجال التسويق: التمييز هو الأساس
 تحد حقيقي لرسم الخط الذي تقف عنده الأهداف التنبؤية

التعلم الآلي يمكنه أن يكشف الكثير من المعلومات المتعلقة بك من ضمنها المعلومات الخاصة  والحساسة فعلى سبيل المثال  يمكنه أن يتنبأ ما إن كنت ستستقيل من وظيفتك خلال الفترة المقبلة وما إذا كان من المحتمل أن تموت قريباً. الباحثون، من جهتهم، يمكنهم التنبؤ بالعرق وبأمور أخرى استناداً إلى الإعجابات على فيسبوك، ويستخدم المسؤولون في الصين نظام التعرف على الأوجه للتعرف على وتتبع أقلية الأويغور. 

والسؤال الذي يطرح نفسه هنا، هل تعرف هذه الآلات بالفعل كل هذه الأمور عنك أم أنها تقوم بتخمينات مستنيرة؟ وإن كانت هذه الآلات تستنتج ذلك عنك، تماماً كما قد يستنتج أي إنسان معلومات عنك ، فهل هناك ما يجعل مهاراتها وغير أخلاقية وتصنف كتعدٍ على الخصوصيات والحريات الشخصية؟ 

كيف تقوم بالبحث عن الكلمات المفتاحية المناسبة لمواقع الأفلييت؟

كيف تعمل التكنولوجيا التنبؤية؟ 

التكنولوجيا التنبؤية هي مجموعة من الأدوات القادرة على اكتشاف وتحليل الأنماط في البيانات بحيث يمكن استخدام السلوك السابق للتنبؤ بالسلوك المحتمل في المستقبل. يتم تطبيق هذه التقنيات والتي تشمل التنقيب عن البيانات والنمذجة والمحاكاة في كل المجالات كدراسة أنماط الطقس، والتسويق، والاعمال، وحتى توقع سلوكيات بعض المجموعات.

ولأن التكنولوجيا هذه تبحث وتحلل وتربط وتتوقع وتكتشف، فهناك إمكانية واسعة لتجاوز الحدود الأخلاقية. صحيح أنها تقنية مفيدة وتساعد في مختلف المجالات ولكنها أيضاً سيف ذو حدين إذ يمكنها أن تصبح تعديا صارخا على خصوصياتنا جميعنا.


كشف معلومات حساسة.. وبناء تنبؤات مستقبلية عليها 

في عام ٢٠١٢ نشرت نيويورك تايمز تقريراً عن استخدام متاجر «تارغيت» للخوارزميات التنبؤية لتوقع ما إن كانت النساء اللواتي يزرن المتجر حوامل. ما حصل وتم اعتبارها كخرق تام وكلي للخصوصية هو تكهن التكنولوجيا هذه بأن فتاة مراهقة حامل، فتم إرسال كوبونات لمستلزمات الأطفال إلى منزل الفتاة وبهذه الطريقة استنتج الوالد بأن ابنته حامل. 

في هذه الحالة، ما حصل هو انتهاك صريح للخصوصية.  فقسم التسويق في الشركة حدد وفق توقعات التكنولوجيا النتبؤية المرأة الحامل من غير الحامل وبالتالي قام بتأكيد معلومات طبية حساسة وتعامل  مع معلومات لا شأن له بها. فالمعلومات الطبية، في هذه الحالة، سرية ويسمح فقط للعاملين في نظام الرعاية الصحية معرفتها والاطلاع عليها والأهم حمايتها. 

ولكن الأمر لا يتوقف عند كشف معلومات حساسة بل يتجاوزه الى تداعيات سلبية محتملة على حياة الشخص. فلو افترضنا مثلاً أن التكنولوجيا التنبؤية توقعت بأن امرأة ما، تعاني من بعض المشاكل في عملها أو لم تقم بتجديد تأمينها، حامل، وتم نشر هذه المعلومات أو تمكنت جهة ما من الوصول إلى هذه المعلومات وباتت معروفة، فهذه المرأة يمكنها أن تخسر وظيفتها وقد يتطلب تجديدها لعقد التأمين مبالغ أكبر. وبالتالي سيتم إلحاق الضرر بها. 

المشكلة الأساسية هنا لا تتعلق بسوء التعامل مع البيانات أو بتسريبها أو سرقتها، بل تتمحور حول توليد البيانات الجديدة القائمة على اكتشاف حقائق عن الناس من خلال التنبؤ والتي تعتبر معلومات لم تقدم طوعاً من الأشخاص المعنيين. والمثير للقلق في كل هذه المعادلة هو أن الشركات تتوقع هذه المعلومات من معلومات «غير ضارة» موجودة. المسار برمته مثير للقلق وغير أخلاقي لأنه لا يستنتج فقط معلومات خاصة عن الأشخاص بل يبني على هذه المعلومات تنبؤات مستقبلة. 

تجاهل مكالمات خدمة العملاء إحداها..أخطاء شائعة تهدد خصوصيتك عبر الإنترنت


لا أخلاقية التنبؤات الدقيقة وغير الدقيقة 

من المفارقة أننا نواجه لاأخلاقية كيفما نظرنا إلى هذه التكنولوجيا التنبؤية، فإن تنبأت بشكل خاطئ وبنت مستقبلاً على هذه التنبؤات المغلوطة فهي تلحق الضرر بالجهة المعنية، وإن تنبأت بشكل دقيق وصحيح فهي أيضاً تلحق الضرر بالجهة المعنية سواء بشكل مباشر أو غير مباشر. 

لو افترضنا أن النموذج التنبؤي الذي تعتمده شركة ما أو جهة ما لم يكن دقيقاً، فسيظل هناك ثقة في التوقعات لمجموعة معنية ومحددة في مختلف المجالات سواء نية الشخص بترك عمله أو حالته الصحية وغيرها من الأمور. والسبب هو أنه في كل مكان وفي كل مؤسسة هناك مجموعات صغيرة يسهل التنبؤ بما ستقوم به أو بما تعاني منه. ولكن مع هكذا أنظمة العمل يكون على نطاق واسع فنسبة أعلى بـ ٠،١٪ لمجموعة تبلغ مليون تعني أن ١٠٠٠ شخص تم تحديدهم ضمن هذه الخانة أو تلك بغض النظر عما إن كان التنبؤ دقيقا ١٠٠٪ أم لم يكن.

يسهل تحديد الأسباب التي تجعل أي شخص كان يرغب في عدم الكشف عن هذه المعلومات، فهي في نهاية المطاف خاصة. في العام ٢٠١٣ قامت إحدى الشركات بتحليل تنبؤي لاكثر من ٣٠٠ ألف عامل لديها لمعرفة من هم الأكثر ميلاً للاستقالة ثم تم تسليم النتائج الى مديري الأقسام. بطبيعة الحال، إن كنت تخطط لترك عملك، فمديرك هو آخر شخص تريده أن يعرف ذلك قبل أن تصبح الأمور رسمية.

مثال آخر عن تجاوز الحدود هو ما قامت به إحدى الشركات لتحديد معدل خسارة قسم الموارد البشرية للعاملين فيه. وخلال وضع النموذج التنبؤي تم إضافة الموت إلى الإحتمالات بحكم أن موت شخص ما يعني تركه لعمله! والنتيجة هي أن جميع العاملين في قسم الموارد البشرية من ضمنهم المديرين رفضوا الاطلاع على المضمون لأنهم وبكل بساطة لا يريدون معرفة أي زميل لهم «يتوقع» له أن يموت قريباً. 

في هذه الحالة، وبغض النظر عن دقة أو عدم دقة التنبؤ، فإن النتائج موجودة والمعلومات متوفرة وهي تطال في هذه الحالة مثلاً، جزئية حساسة ومخيفة لعدد كبير من البشر. الشركة لم تسأل الموظف ما إن كان يريد معرفة «موعد تقريبي» لموته، بل قررت بأنها تريد أن تعرف وقامت بذلك. 

ضبابية الحدود القانونية 

على الرغم من أن المعنيين والمسؤولين الذين يتعاملون مع هذه النماذج التنبؤية يحرصون على العمل ضمن إطار قانوني، ولكن الامتثال القانوني لا يبدو كافياً خصوصاً حين يتعلق الأمر بتحليل الأشخاص. الأنظمة القانونية ما تزال غير «مؤهلة» بما يكفي للدفاع عن خصوصية الموظفين في ظل جمع البيانات المتزايد وتحليلها. بعض القوانين مثل تلك التي حددتها دول الاتحاد الأوروبي ترغم المؤسسات أو المنظمات على إبلاغ الموظفين عن الأسباب التي تقف خلف جميع البيانات عنهم وكيفية معالجتها ولأي أغراض وتمنح الشخص المعني الحق في الوصول الى معلومات وتصحيحها وحتى حذفها. ولكن هذا الأمر موجود فقط في دول الاتحاد الأوروبي وحتى ضمن إطار هذه الدول هناك هامش واسع جداً للاستخدام غير القانوني للمعلومات رغم جمعها بشكل قانوني. 

التكنولوجيا التنبؤية في مجال التسويق: التمييز هو الأساس 

الباحثون أظهروا وبشكل متكرر بأن النماذج التنبؤية يمكن أن تكشف وتميز السمات الشخصية للأفراد مثل العرق والجنس وغيرها بالاستناد على الإعجابات على فيسبوك. هكذا معلومات قيمة جداً للشركات التي تسعى إلى تسويق منتجاتها وخدماتها. وعالم التسويق عبر الإنترنت كما يصفه البرفسور في جامعة هارفرد لاتانيا سويني قائما على التمييز. فالأمهات لا يرغبن برؤية إعلانات لصنارات لصيد السمك، وصياد السمك لا يريد رؤية إعلانات الحفاضات. لغاية الآن تبدو التكنولوجيا التنبؤية  وكأنها تخدم الأشخاص فهي توفر لهم ما يريدونه ويرغبون به وحتى يحتاجون إليه، فمتى يتجاوز هذ التمييز الحدود وينتقل من استهداف الزبائن إلى التأثير بشكل سلبي على مجموعات كبيرة من الأشخاص؟ 

أظهرت دراسة أجرتها «سويني» بأنه عند البحث عبر محرك جوجل عن أسماء يعتمدها أصحاب البشرة السمراء أو تبدو وكأنها تعود لشخص من ذوي البشرة الداكنة، فإن الإعلانات التي تظهر تلمح إلى أن الشخص يملك تاريخاً إجرامياً. ثم نصل إلى تكنولوجيا التعرف على الوجوه وتتبع الأشخاص وتحديد من ينتمي إلى أي مجموعة وما الذي سيقوم به لاحقاً. في كل هذه الحالات الفرد يتم تعريفه وفق جزئية محددة وبمجرد تحديده ضمن هذه المجموعة تلك فسيصار إلى معاملته بشكل مختلف. 

تنفيذ المعاملة التفاضلية لمجموعة عرقية بالاستناد إلى التكنولوجيا التنبؤية يرفع مستوى المخاطر إلى معدلات مرعبة وجديدة. 

إنه تحد حقيقي لرسم الخط الذي تقف عنده الأهداف التنبؤية وتحديد متى يصبح التعلم الآلي غير أخلاقي. والصعوبة الأكبر تكمن في تحديد أي أهداف مشروعة وأي غير مشروعة. ولكن بالحد الأدنى، من الأهمية بمكان التيقظ ومعرفة متى يخدم التعلم الآلي أهدافاً غير أخلاقية أو متى يخلق بيانات جديدة يجب التعامل معها بحذر وحرص. 

علامة واضحة تكشف تعرض هاتفك الأندرويد للاختراق

المصادر: ١- ٢ 

 

مواضيع ممكن أن تعجبك

التعليقات

أضف تعليق