يمكن أن يؤدي التطور غير المسبوق للذكاء الاصطناعي إلى توسيع التهديدات الأمنية الحالية وتقديم مخاطر جديدة كاملة للجرائم الإلكترونية والهجمات المادية والاضطراب السياسي في غضون السنوات الخمس المقبلة. هذا وفقًا لتقرير واسع النطاق من مجموعة من 26 خبيرًا من جميع أنحاء العالم ، الذين حذروا من أن النمو غير المنضبط للذكاء الاصطناعي يمكن أن يغير المشهد الأمني.
يدعو تقرير الذكاء الاصطناعي الخبيث ، الذي كتبه مؤلفون منتشرون عبر القطاع الأكاديمي والصناعي والخيري ، إلى ثقافة المسؤولية والشفافية من باحثي الذكاء الاصطناعي ، وحتى نطاق التدخل المتزايد في السياسة لضمان تطوير الذكاء الاصطناعي والتعلم الآلي للصالح العام. ويحذر من أنه بدون هذه الإجراءات ، من المرجح أن يؤدي الذكاء الاصطناعي إلى تغيير التوازن بين الجهات الخبيثة وقوات الأمن.
يوضح التقرير أنه "نظرًا لأن قدرات الذكاء الاصطناعي أصبحت أكثر قوة وانتشارًا ، فإننا نتوقع أن يؤدي الاستخدام المتزايد لأنظمة الذكاء الاصطناعي إلى توسع التهديدات الحالية ، وإدخال تهديدات جديدة وتغيير في الطابع النموذجي للتهديدات".
فيما يتعلق بالأمن الرقمي ، من المتوقع أن تؤدي إمكانية استخدام الذكاء الاصطناعي لأتمتة المهام إلى زيادة التهديد المرتبط بالهجمات الإلكترونية كثيفة العمالة مثل التصيد بالرمح. يتوقع الخبراء أيضًا نمو الهجمات التي تستغل "نقاط الضعف البشرية" ، مثل استخدام أدوات انتحال الهوية بالذكاء الاصطناعي لتوليف كلام الشخص.
اقرأ التالي:هل ستجعلنا الروبوتات القاتلة أكثر أمانًا؟
أحد السيناريوهات التي تم استكشافها في التقرير فيما يتعلق بالتهديدات المادية هو قدرة الإرهابيين على إعادة توظيف أنظمة الذكاء الاصطناعي التجارية مثل الطائرات بدون طيار والمركبات ذاتية القيادة ، إما لإيصال المتفجرات أو التسبب في حوادث. بمعنى أكثر عمومية ، تعني أتمتة الذكاء الاصطناعي أن المهام التي كانت تتطلب مهارات عالية سابقًا قد تكون أسهل بكثير في الأداء. يقدم الخبراء مثالاً على بندقية قنص طويلة المدى وذاتية التصويب ، والتي يمكن أن تستخدم التعرف على الصور بالذكاء الاصطناعي لتقليل الخبرة اللازمة لممارستها.
إن المجال السياسي أيضًا عرضة للتهديدات المتغيرة بسبب الذكاء الاصطناعي ، حيث يغطي التقرير قدرة الذكاء الاصطناعي والتعلم الآلي على التأثير على المراقبة والدعاية المستهدفة وانتشار المعلومات المضللة. يعتبر التلاعب الاجتماعي سببًا رئيسيًا لهذه التهديدات ، مع تحسين القدرة على تحليل السلوكيات البشرية والحالات المزاجية والمعتقدات من البيانات التي تم جمعها. ويشير التقرير إلى أن "هذه المخاوف هي الأكثر أهمية في سياق الدول الاستبدادية ، ولكنها قد تقوض أيضًا قدرة الديمقراطيات على الحفاظ على نقاشات عامة صادقة".
تأتي الورقة بعد عدة أشهر من الإعلان عن عدد من مبادرات الأخلاقيات الرقمية في المملكة المتحدة ، وبالتحديد مركز الحكومة لأخلاقيات البيانات والابتكار واتفاقية مؤسسة Nuffield حول أخلاقيات البيانات. يتم إنشاء هذه الهيئات لمخالفة إطار أخلاقي من التقنيات الناشئة بسرعة مثل الذكاء الاصطناعي ، ولكن كانت هناك مخاوف بشأن ما إذا كانت ستتمكن من مواكبة وتيرة التنمية.
قال لوسيانو فلوريدي ، أستاذ الفلسفة وأخلاقيات المعلومات في جامعة أكسفورد ، عندما تحدثت إليه العام الماضي:"إنك تحاول اللحاق بشيء يكون دائمًا أسرع منك". "كيف تلحق به؟ تذهب حيثما تذهب. أنت لا تحاول متابعته. سيكون من السخف اللحاق بقطار بمطاردته أثناء مغادرته. من الأفضل أن تكون في المحطة التي يتجه إليها القطار.
"إذا كنت تفكر في المستقبل بشكل استراتيجي ، فستكون حيث تأتي الأشياء ، وبعد ذلك ستلحق بالقطار المناسب. لكن هذا شيء لا يريد أحد سماعه. ليس رجال الأعمال ، لأنه يعني النظر إلى ما هو أبعد من تقرير ربع سنوي ؛ ليس السياسي ، لأنه قد يتجاوز الانتخابات المقبلة.
يدعو التقرير إلى مزيد من الانفتاح بين صانعي السياسات وباحثي الذكاء الاصطناعي. كما تقر أيضًا بأن أنظمة أمان الذكاء الاصطناعي هي من بين أفضل آمالنا في مكافحة الذكاء الاصطناعي الخبيث ، لكنها تضيف أن "الدفاع القائم على الذكاء الاصطناعي ليس حلاً سحريًا ، لا سيما عندما ننظر إلى ما وراء المجال الرقمي".
"يجب القيام بالمزيد من العمل لفهم التوازن الصحيح للانفتاح في الذكاء الاصطناعي ، وتطوير تدابير تقنية محسّنة للتحقق رسميًا من قوة الأنظمة ، والتأكد من أن أطر السياسات التي تم تطويرها في عالم أقل اندماجًا في الذكاء الاصطناعي تتكيف مع العالم الجديد الذي نصنعه. "
صورة:دبابة Nerehta الروسية ، مركبة برية بدون طيار قادرة على حمل قاذفة قنابل يدوية أو مدفع رشاش
