گروهی از ۲۲ کشور، از جمله چند کشور اروپایی، در یک بیانیه که روز دوشنبه به تصویب رسید، اعلام کردند که هوش مصنوعی (AI) باید تحت هدایت، نظارت و کنترل انسان باقی بماند. این بیانیه در حاشیه مجمع عمومی سازمان ملل در نیویورک مطرح شد و خواستار ایجاد یک نظام نظارتی جهانی برای هوش مصنوعی شد.
خطرات و مزایای هوش مصنوعی
این بیانیه، پتانسیل هوش مصنوعی برای بهبود زندگی، پیشرفت علم و تقویت اقتصاد کشورها را مورد تأکید قرار داد. با این حال، نگرانیهایی نیز درباره توسعه سریع مدلهای پیشرفته هوش مصنوعی وجود دارد که میتواند خطرات جدی برای ایمنی و امنیت به همراه داشته باشد اگر بهطور مناسب مدیریت نشود.
بیشتر بخوانید: مدیران عامل شرکتهای هوش مصنوعی به شام دولتی ترامپ و شی جینپینگ دعوت شدند
این ابتکار بهویژه در آستانه دیدار رئیسجمهور ایالات متحده و چین، دونالد ترامپ و شی جینپینگ، در واشنگتن صورت میگیرد. با این حال، نه ایالات متحده و نه چین جزو امضاکنندگان این بیانیه هستند. الکساندر استوب، رئیسجمهور فنلاند و یکی از سازماندهندگان اصلی این سند، امیدوار است که بتواند «حرکتی» را ایجاد کند و بازیگران بیشتری را به این طرح ملحق کند. او در این زمینه گفت: «فکر میکنم برای چین و ایالات متحده منافع مشترکی وجود دارد که باید برخی از محدودیتها را ایجاد کنیم و پیام ما این است که نیاز به مداخله انسانی داریم، بنابراین انسانها باید در تصمیمگیریها نقش داشته باشند».
اقدامات پیشنهادی برای کنترل هوش مصنوعی
بیانیه همچنین به حمله سایبری اخیر که توسط عوامل هوش مصنوعی غیرقابل کنترل به پلتفرم Hugging Face صورت گرفت، اشاره کرد و خواستار مدیریت این خطرات شد. کشورهای امضاکننده موظف شدند که شرکتهای هوش مصنوعی را ملزم کنند تا پروتکلهای ایمنی شفاف توسعه دهند، از جمله تستهای اجباری قبل از استقرار و ارزیابی مستقل با ارزیابان مجاز که دسترسی کافی برای ارزیابی خطرات داشته باشند.
با این حال، این سند بهطور خاص خواستار کاهش یا توقف توسعه هوش مصنوعی نشده و سازماندهندگان به تمرکز بر مدیریت خطرات اشاره کردهاند. کشورهای امضاکننده باید «استانداردهای مشترک را بیشتر توسعه دهند و هماهنگی کنند» و شفافیت را تقویت کنند، از جمله گزارشدهی مشترک درباره حوادث جدی ایمنی.
استوب در این زمینه اشاره کرد که «ترجیح شخصی ما» ایجاد یک نهاد جدید مشابه آژانس بینالمللی انرژی اتمی در چارچوب سازمان ملل است. با این حال، او همچنین افزود که در نظر دارد این پیشنهاد را بهگونهای ارائه دهد که مورد رد واقع نشود، بهویژه با توجه به تردید ترامپ نسبت به سازمان ملل.
در حال حاضر، بریتانیا هنوز به این بیانیه نپیوسته است. در میان کشورهای بزرگ اروپایی، صدراعظم آلمان، فریدریش مرز، از این ابتکار حمایت کرده است، در حالی که امضای فرانسه، ایتالیا و لهستان بهطور قابل توجهی غایب است.
استوب همچنین تأکید کرد که او و استوره بههیچوجه «مروجان آخرالزمان» درباره هوش مصنوعی نیستند، اما سه دلیل برای تهدید نبود نظارت مؤثر ذکر کردند: تولید سلاحهای بیولوژیک توسط هوش مصنوعی، حملات سایبری توسط عوامل هوش مصنوعی و روباتهای کشندهای که از هوش مصنوعی برای حملات مرگبار استفاده میکنند. او همچنین تصریح کرد که مزایای هوش مصنوعی میتواند «بسیار بالاتر» باشد، اگر این فناوری بهدرستی مورد استفاده قرار گیرد.
بیشتر بخوانید: گوین نیوزوم دستور اجرایی برای بررسی قوانین جدید هوش مصنوعی را امضا کرد · ترامپ از ایجاد نیروی هوش مصنوعی خبر داد
