المتصيدون الذين يهاجمون لوحة المفاتيح هم القاعدة في Twitterverse والشبكة الاجتماعية لم تقم بعمل رائع للتحكم فيها. لدرجة أن وكالة إبداعية من شخص ثالث تسمى Possible ، رأت أنه من الضروري التدخل وتحويل الكلام الذي يحض على الكراهية إلى شيء جيد ، وإطلاق حملة تسمى We Counter Hate.
من خلال الشراكة مع Spredfast ، تمكنت Possible من تدريب الذكاء الاصطناعي على التعرف على التغريدات البغيضة. عندما يكتشف الذكاء الاصطناعي الرسالة البغيضة ، سيرسل الوسيط البشري إلى القزم تغريدة مضادة ، ينبههم إلى أن تغريدةهم قد تمت مواجهتها من خلال الخير الكرمي. مقابل كل إعادة تغريد تحصل عليها We Counter Hate ، ستقدم Possible ، مع تبرعات من الجمهور ، مساهمة قدرها 1 دولار للمنظمة غير الربحية ، Life After Hate.
التحدث إلى VentureBeat شرح Possible كيف قام الفريق بتدريب الروبوت الخاص به على التعرف على خطاب الكراهية من خلال عشر مراحل من الإبادة الجماعية لغريغوري ستانتون ، وتكثيف وثيقته وصولاً إلى الأجزاء ذات الصلة فقط بتويتر - من التغريدات التي تهدف إلى نزع الإنسانية عن التغريدات التي تهدف إلى استقطاب المجتمعات.
من خلال العمل مع Spredfirst للمساعدة في تعديل الرسائل الواردة ، يصنف الذكاء الاصطناعي هذه التغريدات في التدفقات المختلفة لخطاب الكراهية. ثم تغذي Possible هذا من خلال نظامها حتى تتمكن من تعلم الفروق اللغوية الدقيقة في الكلام. بمجرد أن يتم تدريبه ، فإنه يضع علامة على رسائل للمشرفين البشريين للتدخل وتحديد ما هو الكلام الذي يحض على الكراهية حقًا وما الذي قد يكون قد أربكه النظام للتو.
(أعلاه:مثال على تطبيقwe_counter_hate)
محاربة المتصيدون على منصتهم المفضلة؟ إنها فكرة جميلة. باستثناء ... هناك بعض العيوب الرئيسية.
مشاكل استخدام الروبوتات لمحاربة المتصيدون
يحب المتصيدون تدمير الأسباب الجيدة بطبيعتها. لا يسعني إلا أن أتذكر سلسلة مؤلمة من الأحداث التي شارك فيها الممثل شيا لابوف. في عرض فني على الإنترنت بعنوان He Will Not Divide Us ، حاول لابوف إطلاق بث على مدار 24 ساعة احتجاجًا على تنصيب دونالد ترامب. كان من المفترض أن يتم عرضه طوال فترة حكم ترامب بأكملها ، لكن منزله في متحف الصورة المتحركة استمر بالكاد ثلاثة أسابيع بعد هجوم متصيد واسع النطاق.
نحن نكافح الكراهية يبدو أنه من الأساسي أن نكرر وصفة لابوف للفشل. ليس من الصعب تخيل سيناريوهات يجد فيها المتصيدون باستمرار طرقًا لكسر الروبوت.
ثانيًا ، ألا تبدو الحملة وكأنها ، بطريقة معاكسة ، تحفز على خطاب الكراهية؟ إذا كنت ترغب في رؤية المزيد من التغريدات المضادة ، فيجب نشر التغريدات المليئة بالكراهية على الشبكة الاجتماعية في المقام الأول. قد ينتهي الأمر بالناس إلى نشر كلام يحض على الكراهية من أجل تشغيل الروبوت.
في حين أن مثل هذه الحملات ، من الناحية النظرية ، شيء جيد ، فإن معظم شكوكي يخطئ في الجانب الذي يقول إن كل هذا سينتهي بالدموع للمستخدمين. الأمر هو أنه لا يوجد حل واحد واضح للتعامل مع المتصيدون عبر الإنترنت. يمكن القول إن المشاكل تنبع من أنظمة الشبكات الاجتماعية نفسها ؛ شيء من أمثال Twitter و Facebook غالبًا ما يقيدون أنفسهم في عقد يحاولون فكه. لا يوجد حل واحد مضاد للرصاص ، ومن غير المرجح أن يحل الروبوت الذي يعمل في النهاية لصالح تسويق وكالة إبداعية واحدة المشكلة بمفرده.
