من ما نراه في نتائج بحثنا على الإنترنت لتحديد كيفية إدارتنا لاستثماراتنا وطرق سفرنا وحياتنا العاطفية ، أصبحت الخوارزميات جزءًا من مجتمعنا في كل مكان. الخوارزميات ليست مجرد ظاهرة على الإنترنت:فهي ذات تأثير متزايد باستمرار على العالم الحقيقي. يولد الأطفال لأزواج تمت مطابقتهم من خلال خوارزميات مواقع المواعدة ، بينما تستعد أنظمة الملاحة للسيارات ذاتية القيادة لتغيير طرقنا.
في الشهر الماضي ، أعلنت ألمانيا عن مبادئ توجيهية أخلاقية لتحديد كيفية تفاعل السيارات ذاتية القيادة مع الاصطدامات التي لا مفر منها. وفقًا لهذه الإرشادات ، في مثل هذه الحالات التي لا تستطيع فيها السيارات ذاتية القيادة تجنب الاصطدام ، يُتوقع منها حماية الأشخاص بدلاً من الممتلكات أو الحيوانات.
المشكلة هي أننا نعيش في عالم متنوع بشكل لا يصدق ، مع دول مختلفة لها أخلاقها وثقافتها الخاصة ، وبالتالي قد لا تكون الخوارزميات المقبولة لمجموعة واحدة من الناس مقبولة لمجموعة مختلفة. تقول الدكتورة ساندرا واتشتر ، باحثة في أخلاقيات البيانات في معهد أكسفورد للإنترنت وزميلة باحث في معهد آلان تورينج:"ليس لدينا حقًا إجماع على الأخلاق". "حتى على المستوى الإقليمي في أوروبا ، نختلف اختلافًا كبيرًا في ما هو مهم بالنسبة لنا وما هي القيم التي نحتاج إلى حمايتها. الخصوصية هي إحدى القضايا الرئيسية في أوروبا ، ولكن إذا نظرت إلى كيفية إدراك ألمانيا للخصوصية - ما يفكرون به في الخصوصية وسبب أهميتها - فهذا لا ينعكس بالضرورة في المملكة المتحدة. "
تتأثر الأخلاق بالعوامل الشخصية والثقافية والدينية. تنبع هذه المنظورات الفريدة من التجارب المجتمعية لكل بلد. يقول واتشتر:"على الرغم من أننا نتحدث عن نفس الشيء ، إلا أنها تنكه بلون مختلف ، لأن لدينا تجارب مختلفة".
قد تكون المبادئ التوجيهية الأخلاقية للسيارات ذاتية القيادة مناسبة على نطاق واسع في ألمانيا ، لكنها لن تكون مقبولة عالميًا. على سبيل المثال ، في مناطق العالم حيث تعتبر الأبقار مقدسة على نطاق واسع ، من الطبيعي أن يتجنب السائقون ضرب بقرة بأي ثمن. وبالمثل ، هناك بعض الديانات ، مثل اليانية ، التي تولي أهمية كبيرة لحياة الحيوانات.
يقول الباحث ماثيو بلاكستاد ، مؤلف Lucky Ghost :"غالبًا ما نتحدث عن معايير الولايات المتحدة ، ولكن ما نتحدث عنه حقًا هو معايير WEIRD التي يتم فرضها من خلال هذه الأشياء" . WEIRD ، في هذه الحالة ، تعني غربيًا ، متعلمًا ، صناعيًا ، غنيًا وديمقراطيًا.
"غالبًا ما نتحدث عن معايير الولايات المتحدة ، ولكن ما نتحدث عنه حقًا هو W.E.R.D. القواعد التي يتم فرضها "
يسلط هذا الضوء على مشكلة ، على الرغم من إمكانية نشر الخوارزميات في جميع أنحاء العالم ، إلا أنها تتمتع دائمًا بالخلفية الثقافية ومنظور مبرمجيها. يقول واتشتر إن المشاكل يمكن أن تحدث إذا تم تطوير هذه التقنيات من قبل أشخاص من مجموعة سكانية واحدة. إذا حدث ذلك ، فستفتقر النتائج إلى الفروق الدقيقة الشخصية والثقافية والدينية اللازمة لتعكس عدد سكان العالم. وهي تحذر من أنه "سيكون من جانب واحد للغاية ، عندما يحتاج إلى التنوع ثقافيًا".
يمكن أن تؤثر التصورات الثقافية للمبرمجين دون وعي على القرارات التي يتخذونها أثناء مرحلة تطوير التطبيقات الخوارزمية. يمكن أن تؤثر القرارات المتعلقة بمجموعات القواعد ومجموعات البيانات ، التي تُستخدم لتدريب عنصر التعلم الآلي في الخوارزمية ، بشكل طبيعي على السلوك الناتج. تقول عالمة الرياضيات كاثي أونيل ، مؤلفة أسلحة تدمير الرياضيات :"البيانات التي يجمعونها والطريقة التي يختبرون بها تكون ذات نظرة داخلية ، لذا فهي تعمل لصالحهم ولأصدقائهم" .
وخير مثال على ذلك هو كيف ابتكر مطور ألعاب فيديو ذات مرة لعبة فيديو عنصرية عن غير قصد. لم تتمكن خوارزمية تتبع الحركة من اكتشاف درجات لون البشرة الداكنة ، حيث اعتمدت الكاميرا على الضوء المنعكس لاكتشاف الحركة. تشير حقيقة عدم ملاحظة ذلك أثناء التطوير أو الاختبار إلى وجود تحيز مؤسف.
في غضون ذلك ، أثار سناب شات الجدل العام الماضي عندما قاموا بنشر مرشح مهرجان كوتشيلا. تم تصميم هذا الفلتر لإضفاء "أجواء مهرجان الصيف" مع إكليل من الزهور. كما أنها تتميز بوظيفة تبييض البشرة.
كان أول فلتر "تجميل" لتفتيح لون البشرة تلقائيًا. يتمثل الاختلاف الرئيسي بين Snapchat وأنظمة مشاركة الصور الأخرى في أنه استخدم عوامل تصفية محددة مسبقًا ، دون موافقة محددة من المستخدم. هذا يعني أن شخصًا ما ، في مكان ما ، يفترض أن تفتيح لون بشرة الفرد سيجعله أكثر جاذبية.
قد تكون هذه الأمثلة المؤسفة للتحيز في الخوارزميات حالات محددة من الافتقار إلى البصيرة ، ولكن عندما يتم نشر مثل هذه التطبيقات في جميع أنحاء العالم ، هناك احتمال للتأثير عن غير قصد على التطور الثقافي للبلدان الأخرى. يمكننا أن نتجه نحو مستقبل متجانس ، حيث تؤثر الخوارزميات على القيم من خلال شكل من أشكال الاستعمار الثقافي. يقول أونيل:"سوف يغيرون ثقافات البلدان لتناسب منتجهم".
"سوف يغيرون ثقافات البلدان لتناسب منتجهم"
ومع ذلك ، هذا ليس بالضرورة تذبذبًا في اتجاه واحد للقيم من الغربيين الأثرياء في جميع أنحاء العالم. الصين ، على سبيل المثال ، أصبحت أيضًا قوة في مجال الذكاء الاصطناعي. عندما نبدأ في استخدام الأدوات التي تدمج المنطق المشفر في الهند والصين والاقتصادات الأخرى سريعة النمو ، يمكن للغرب أن يجد نفسه في الطرف المتلقي للاستعمار الثقافي.
بقدر ما قد يبدو دراماتيكيًا ، فإن هذه السيناريوهات لا تحتاج إلى أن تؤدي إلى تجانس جماعي. في الواقع ، مع وجود المزيد من المنظورات الثقافية المشاركة في إنشاء أدوات البرمجة ، فإن الأمل هو أن تعدد القيم سيوفر مستوى أكبر من الاختيار عند النظر في الخوارزميات التي يجب أن تدعم تقنيات المستقبل. يقول البروفيسور لوسيانو فلوريدي من جامعة أكسفورد:"إنها مثل عيدان تناول الطعام والشوكة". "بالنسبة لشخص مثلي ، يسهل التعامل مع الشوكة ، ومع ذلك فهي لم تحل محل عيدان تناول الطعام. اعتمادًا على التطبيق المحدد والاحتياجات التجارية والثقافية والمجتمعية ، سنجد أنه يتم اعتماد مجموعة متنوعة من الأدوات ".
من خلال هذه الحجة ، يمكن أن تشهد العقود القادمة اندماجًا لوجهات نظر مجتمعية مختلفة تغذي تطوير أجهزة الاستشعار والذكاء الاصطناعي وتقنيات مثل السيارات ذاتية القيادة ؛ مستقبل نختار فيه الأداة التي نستخدمها والنهج الثقافي الأنسب للموقف. كل هذا يتوقف على وجود مجموعة متنوعة من المطورين الذين يضعون الأساس. هناك حاجة إلى رمز غير غريب ، بالإضافة إلى الوعي بأن الخوارزميات ليست محايدة ؛ أنهم يأتون مع قدر كبير من الأمتعة الثقافية.
