يمكن أن يكون لاستخدام الذكاء الاصطناعي في التقييمات العسكرية والأمن الوطني عواقب وخيمة. في سبتمبر، تم نشر تقرير يظهر أن الولايات المتحدة اقتربت من صراع عسكري مع الصين بسبب تقييم خاطئ لسفينة صينية. التحليل الذي تم بمساعدة روبوت محادثة ذكاء اصطناعي توصل بشكل خاطئ إلى استنتاج أن هذه السفينة تحمل مواد نووية. كانت هذه الخطأ خطيرًا لدرجة أنه حتى تم التعرف عليه، كانت الطائرات الأمريكية في حالة تأهب للتدخل.
مخاطر جدية لتقييمات الذكاء الاصطناعي
نشأت مناقشات واسعة حول كيفية ظهور هذا الخطأ الخطير. لكن ما يثير القلق هو السرعة التي قد تتحرك بها التقييمات المعتمدة على الذكاء الاصطناعي في سلسلة القيادة وتتحول إلى معلومات موثوقة. بينما نتحدث عن تأثير ذكاء اصطناعي فائق الذكاء على البشرية، من الواضح أن هذه التقنية ستدخل قريبًا غرفة الأزمات الأمنية الوطنية.
يمكن للذكاء الاصطناعي معالجة كميات كبيرة من المعلومات الأمنية أسرع من أي فريق بشري، وتحديد الأنماط والشذوذات في البيانات. ولكن يطرح السؤال: ما تأثير ذلك على حكم الرئيس؟ بناءً على تجربتي في دراسة اتخاذ القرار في الأزمات وتقييم المعلومات، فإن الخطر الحقيقي هو أن الذكاء الاصطناعي يمكن أن يعزز تحيزات القادة ويعيد تحليلاته إليهم على شكل افتراضات مسبقة.
تحليلات غير مباشرة وخطر الإجماع الاصطناعي
نتحدث عادةً عن الذكاء الاصطناعي وكأن هذه الأنظمة مستقلة تمامًا ويمكن أن تعمل كنظام ذكي منطقي. لكن الحقيقة هي أن البشر هم من أنشأوا هذه النماذج وقاموا بتدريبها بناءً على البيانات التي أنتجوها. والنتيجة هي أن مخرجات الذكاء الاصطناعي بعيدة عن الحياد.
معروف جيدًا أن أخطاء اتخاذ القرار البشري. يجب على الرئيس ومستشاريه دائمًا أن يكونوا حذرين من تحيز التأكيد، أي ميلنا لتفسير الأدلة بناءً على المعتقدات السابقة. في هذا السياق، يكمن خطر أكبر في استخدام الذكاء الاصطناعي. تشمل القرارات الرئاسية أحكامًا متعددة يمكن أن يختلف الأشخاص العقلاء حول كل منها. إن تبسيط هذه الأحكام إلى تقييم احتمالي، يخلق غموضًا أكثر مما يوضحه.
على سبيل المثال، في ليلة الأول من مايو ٢٠١١، اجتمع باراك أوباما، الرئيس الأمريكي في ذلك الوقت، مع مستشاريه لتقييم المعلومات التي تشير إلى أن أسامة بن لادن كان مختبئًا في مكان ما في أبوت آباد، باكستان. إذا كانت هذه المعلومات صحيحة، كان سيرسل القوات الأمريكية إلى هناك. لكن مستشاريه، الذين نظروا جميعًا إلى بيانات مماثلة، قدموا تقديرات فردية لاحتمالية وجود بن لادن في ذلك المكان تتراوح بين ٣٠ إلى ٩٥ في المئة.
الآن تخيل أن هناك نظام ذكاء اصطناعي قوي في تلك الغرفة يجمع هذه التقييمات إلى احتمال ٦٣.٧ في المئة لوجود بن لادن. قد نحصل على دقة أكبر، لكن ماذا نفقد؟ لا يمكن أن يخبر هذا الرقم الرئيس لماذا توجد هذه الاختلافات الكبيرة في التقييمات وما الافتراضات التي تشكلت بناءً عليها.
إذا كانت المشكلات الناتجة عن اتخاذ القرار البشري معروفة جيدًا، فهناك أيضًا استراتيجيات للتعامل معها. يمكننا تصميم أنظمتنا بحيث تعمل كخصوم خيرين ونعلم صانعي القرار أن يتعاملوا معها كخصوم من هذا النوع. بالإضافة إلى ذلك، يجب أن نطرح أسئلة أفضل وننظر بعناية إلى أدلتنا وافتراضاتنا. سيساعد ذلك في اتخاذ قرارات أفضل وتقليل المخاطر الناتجة عن التحيزات البشرية.
