تکنولوژی هوش مصنوعی (AI) در حال حاضر در وضعیت بحرانی قرار دارد و عدم توانایی در مدیریت آن میتواند عواقب جدی به همراه داشته باشد. این عدم توانایی به دلیل مجموعهای از روایتهای خطرناک توجیه شده است؛ اینکه فناوری به حدی سریع در حال پیشرفت است که نمیتوان آن را زیر نظر گرفت، یا اینکه شرکتها میتوانند خود را تنظیم کنند و در رقابت میان ایالات متحده و چین، ایمنی عمومی قابل انتظار نیست.
چالشهای مدیریت هوش مصنوعی
دولتها در جلب توجه به خطرات هوش مصنوعی با چالشهای زیادی روبهرو هستند. بسیاری از کشورها از اقدام به تنهایی در یک محیط رقابتی هراس دارند. در این زمینه، هر درخواست برای احتیاط با این پاسخ مواجه میشود: چرا باید کند شویم اگر رقیب ما این کار را نکند؟
بیشتر بخوانید: سلطنت چارلز درباره سرعت توسعه هوش مصنوعی ابراز نگرانی کرد
با این حال، رویدادهای اخیر این توجیهات را مورد آزمایش قرار داده است. در ماههای اخیر، سیستمهای هوش مصنوعی به هک کردن پایگاههای داده شرکتهای دیگر و فریب افراد واقعی پرداختهاند. همچنین، محققان برای اولین بار از هوش مصنوعی برای ایجاد ویروسهای جدید استفاده کردهاند. هفته گذشته، افشاگران صنعت هوش مصنوعی هشدار دادند که شرکتها در حال "قمار با زندگی ما" هستند و با عجله به سمت مدلهای خودبهبود یافته حرکت میکنند.
ضرورت همکاری بینالمللی
این واقعیت که خطرات هوش مصنوعی در مرزها متوقف نمیشوند، ضروری بودن همکاری بینالمللی را برای ایمنی هوش مصنوعی به وضوح نشان میدهد. ما نمیتوانیم منتظر اطلاعات کامل بمانیم و نمیتوانیم تا زمانی که رقابت بین قدرتهای بزرگ کاهش یابد، اقدام کنیم. نیاز به همکاری بینالمللی حول ایمنی هوش مصنوعی فوری و غیرقابل انکار است.
تجارب گذشته در مدیریت خطرات جهانی، از جمله سلاحهای شیمیایی و تغییرات اقلیمی، نشان میدهد که همکاری بینالمللی میتواند موثر باشد. توافقنامهها و پروتکلهای مختلف، مانند پروتکل مونترال و معاهده منع گسترش سلاحهای هستهای، نمونههایی از موفقیت در همکاری جهانی هستند که حتی در نبود اعتماد نیز حاصل شدهاند.
مدلهای موجود برای همکاری بینالمللی میتوانند برای هوش مصنوعی مورد استفاده قرار گیرند. به عنوان مثال، میتوان به توافقنامه منع سلاحهای شیمیایی اشاره کرد که عضویت تقریباً جهانی را به دست آورده و با یک نهاد تأیید فنی از جمله سازمان منع سلاحهای شیمیایی، به بازرسی از تأسیسات اعلام شده پرداخته است.
ایجاد یک نهاد بینالمللی برای هوش مصنوعی که بتواند ایمنی سیستمهای پیشرفته را تأیید کند و تحت کنترل انسانی باقی بماند، ضروری است. این نهاد باید جایی باشد که حوادث جدی و نزدیک به خطر در سطح جهانی گزارش و نظارت شوند تا یک شکست در یک شرکت یا کشور، به عنوان هشداری برای کل جهان عمل کند.
این یک فراخوان برای وحشت نیست، بلکه فراخوانی برای شجاعت سیاسی و رهبری است. ما نمیتوانیم منتظر «لحظه چرنوبیل» هوش مصنوعی بمانیم. جمعآوری شواهد و درخواستها برای اقدام به اوج خود رسیده است و زمان شکستن سکون کنونی فرا رسیده است. ما از رهبران جهان میخواهیم که در این زمینه اقدام کنند و به مذاکره برای ایجاد یک نهاد بینالمللی برای هوش مصنوعی پیشرفته متعهد شوند.
بیشتر بخوانید: Rand Paul درخواست جان کندی برای قانون کشتار هوش مصنوعی را مسدود کرد · سارا هک بر اهمیت پیشتازی آمریکا در هوش مصنوعی تأکید کرد
