استفاده از هوش مصنوعی در ارزیابی‌های نظامی و امنیت ملی می‌تواند پیامدهای جدی داشته باشد. در سپتامبر، گزارشی منتشر شد که نشان می‌دهد ایالات متحده به دلیل یک ارزیابی نادرست از یک کشتی چینی به نزدیک شدن به درگیری نظامی با چین رسیده است. تحلیلی که با کمک یک چت‌بات هوش مصنوعی انجام شده بود، به اشتباه نتیجه‌گیری کرده بود که این کشتی مواد هسته‌ای حمل می‌کند. این اشتباه به اندازه‌ای جدی بود که تا زمان شناسایی آن، هواپیماهای آمریکایی در حال آماده‌باش برای مداخله بودند.
خطرات جدی ارزیابی‌های هوش مصنوعی
بحث‌های گسترده‌ای در مورد چگونگی بروز این خطای خطرناک شکل گرفت. اما آنچه که نگران‌کننده است، سرعتی است که ارزیابی‌های مبتنی بر هوش مصنوعی ممکن است در زنجیره فرماندهی حرکت کنند و به اعتبار اطلاعات تأییدشده تبدیل شوند. در حالی که ما در مورد تأثیر یک هوش مصنوعی فوق‌هوشمند بر بشریت بحث می‌کنیم، واضح است که این فناوری به زودی وارد اتاق بحران امنیت ملی خواهد شد.
بیشتر بخوانید: رهبران راست‌گرای افراطی اروپا از دونالد ترامپ فاصله می‌گیرند
هوش مصنوعی می‌تواند حجم‌های زیادی از اطلاعات امنیتی را سریع‌تر از هر تیم انسانی پردازش کند و الگوها و ناهنجاری‌ها را در داده‌ها شناسایی کند. اما این سؤال مطرح می‌شود که این امر چه تأثیری بر قضاوت رئیس‌جمهور خواهد گذاشت. بر اساس تجربیات من در مطالعه تصمیم‌گیری در بحران و ارزیابی اطلاعات، خطر واقعی این است که هوش مصنوعی می‌تواند سوگیری‌های رهبران را تقویت کند و تحلیل‌های خود را به شکل فرضیات پیشین به آنها بازگرداند.
تحلیل‌های غیرمستقیم و خطر اجماع مصنوعی
ما معمولاً در مورد هوش مصنوعی به‌گونه‌ای صحبت می‌کنیم که گویی این سیستم‌ها کاملاً مستقل هستند و می‌توانند به عنوان یک سیستم هوشمند منطقی عمل کنند. اما واقعیت این است که انسان‌ها این مدل‌ها را ساخته و بر اساس داده‌های تولیدشده توسط خود آنها را آموزش داده‌اند. نتیجه این است که خروجی‌های هوش مصنوعی به دور از بی‌طرفی است.
اشکالات تصمیم‌گیری انسانی به‌خوبی شناخته‌شده هستند. رئیس‌جمهور و مشاورانش همواره باید در برابر سوگیری تأیید، یعنی تمایل ما به تفسیر شواهد بر اساس باورهای قبلی، مراقب باشند. در این راستا، یک خطر حتی بیشتر در استفاده از هوش مصنوعی نهفته است. تصمیمات ریاست‌جمهوری شامل قضاوت‌های متعددی هستند که افراد معقول می‌توانند در مورد هر یک از آنها اختلاف نظر داشته باشند. ساده‌سازی این قضاوت‌ها به یک ارزیابی احتمالی، بیشتر از آنکه روشن کند، ابهام ایجاد می‌کند.
به عنوان مثال، در شب اول مه ۲۰۱۱، باراک اوباما رئیس‌جمهور وقت آمریکا با مشاورانش گرد هم آمد تا اطلاعاتی را که نشان می‌داد اسامه بن لادن در یک محل در ابوت‌آباد پاکستان پنهان شده است، ارزیابی کنند. اگر این اطلاعات درست بود، او نیروهای آمریکایی را به آنجا می‌فرستاد. اما مشاوران او، که همگی به داده‌های مشابهی نگاه می‌کردند، تخمین‌های فردی از احتمال حضور بن لادن در آن محل را بین ۳۰ تا ۹۵ درصد ارائه کردند.
اکنون تصور کنید که یک سیستم هوش مصنوعی قدرتمند در آن اتاق وجود داشت و این ارزیابی‌ها را به یک احتمال ۶۳.۷ درصدی برای حضور بن لادن ترکیب می‌کرد. ممکن است دقت بیشتری به دست آوریم، اما چه چیزی از دست می‌رود؟ این عدد نمی‌تواند به رئیس‌جمهور بگوید که چرا این تفاوت‌های چشمگیر در ارزیابی‌ها وجود دارد و چه فرض‌هایی بر اساس آنها شکل گرفته است.
اگر مشکلات ناشی از تصمیم‌گیری انسانی به‌خوبی شناخته‌شده باشد، استراتژی‌های مقابله با آنها نیز وجود دارد. ما می‌توانیم سیستم‌های خود را به‌گونه‌ای طراحی کنیم که به عنوان رقبای خیرخواه عمل کنند و تصمیم‌گیرندگان خود را آموزش دهیم که با آنها به‌عنوان چنین رقبایی رفتار کنند. به‌علاوه، باید سؤالات بهتری بپرسیم و به دقت به شواهد و فرضیات خود نگاه کنیم. این امر موجب می‌شود که تصمیمات بهتری اتخاذ شود و خطرات ناشی از سوگیری‌های انسانی کاهش یابد.
بیشتر بخوانید: استیفن میلار به عنوان رئیس جدید کارکنان کاخ سفید منصوب شد · ناتو به دنبال تبدیل داده‌ها به مزیت دفاعی است
