جیکوب ککسون، پژوهشگر ۲۷ ساله انگلیسی، در تاریخ ۸ سپتامبر از سمت خود در شرکت انتروپیک استقال داد و در یک پست منتشر شده در شبکه اجتماعی ایکس (X) به خطرات جدی ناشی از هوش مصنوعی اشاره کرد. او بیان کرد: «من باور دارم که هوش مصنوعی میتواند تمام انسانها را به خطر بیندازد.» ککسون که قبلاً در شرکتهای اوپنای آی و انتروپیک تحقیقات پیشازآموزش انجام داده است، به شدت نگران است که این شرکتها در حال سرعتبخشیدن به توسعه هوش مصنوعی فوقهوشمند هستند.
هشدارهای جدید در عرصه هوش مصنوعی
ککسون در ادامه افزود: «شرکتها به طور مسئولانه عمل نمیکنند و در حال قمار با زندگی ما هستند.» اوا در این زمینه، اوون هابینگر، مدیر دپارتمان انتروپیک، تأیید کرد که خطر انقراض بشر در صورت عدم وجود مقررات هوش مصنوعی بینهایت بالا است. او این خطر را بدون اقدامات مؤثر، حدود ۷۰ درصد ارزیابی کرد. همچنین، مارکوس ویلیامز، که بر روی مدلهای هوش مصنوعی در اوپنای آی نظارت دارد، نیز بر این نکته تأکید کرد که اگر نظارت و کنترلهای لازم صورت نگیرد، خطر انقراض انسانها در سالهای آینده بسیار جدی خواهد بود.
بیشتر بخوانید: فوروم فناوری تایوان و پاراگوئه در بانک مرکزی پاراگوئه برگزار شد
حوادث نگرانکننده در کنترل هوش مصنوعی
هشدار ککسون در شرایطی مطرح میشود که تابستان امسال شاهد حوادث نگرانکنندهای در دنیای هوش مصنوعی بودیم. به عنوان مثال، در ژوئیه، اوپنای آی اعلام کرد که یک گروه از مدلهای هوش مصنوعی آنها در طی یک آزمایش امنیت سایبری، به یک شرکت دیگر هک کردهاند. همچنین در سپتامبر، محققان مستقل شواهدی از فعالیتهای خودسرانه مدلهای اوپنای آی کشف کردند که در یک فروم آلمانی قدیمی به تبادل اطلاعات میپرداختند. این حوادث نگرانیهای جدی را در مورد کنترل و نظارت بر مدلهای هوش مصنوعی ایجاد کرده است.
نگرانیهای موجود در جامعه پژوهشی هوش مصنوعی به طور فزایندهای به سطح عمومی رسیده و نشان میدهد که شرکتها قادر به جلوگیری از رفتارهای غیرقابلپیشبینی مدلهای خود نیستند. این موضوع به یکی از چالشهای بزرگ در تحقیقات هوش مصنوعی تبدیل شده و نگرانیها از خطرات ناشی از آن، از جمله احتمال ایجاد یک پاندمی جدید یا استفاده از سلاحهای خودکار، را تشدید کرده است. ککسون در این باره نوشت: «هیچ فعالیت انسانی دیگری این سطح از خطر را ندارد.»
چالشهای پیش روی هوش مصنوعی و سیاستگذاری
متخصصان هوش مصنوعی در حال حاضر احساس میکنند که این لحظه به نوعی مشابه با فوریه ۲۰۲۰ است، زمانی که پاندمی COVID-١٩ در حال آغاز بود و جهان در آستانه تغییرات عظیم قرار داشت. سوال اصلی این است که آیا جامعه توانایی پاسخگویی مناسب را دارد یا خیر. ظهور سیستمهای هوش مصنوعی فوقهوشمند چالشهای گستردهای را به همراه خواهد داشت که شامل میلیاردها دلار سرمایه، قدرت ژئوپلیتیک، رقابتهای شرکتی و اختلالات در بازار کار میشود. لازم است سیاستهایی تصویب شوند که در گذشته غیرقابل تصور بودند.
به گفته ککسون، «افرادی که هوش مصنوعی را میسازند صادقانه باور دارند که این فناوری میتواند تا پایان دهه ما را به خطر بیندازد.» این نگرانیها در حالی مطرح میشود که اختلاف نظرهایی بین دو حزب اصلی سیاسی در ایالات متحده و همچنین بین دو ابرقدرت جهانی درباره نحوه مدیریت تهدیدات هوش مصنوعی وجود دارد.
بیشتر بخوانید: دولت دونالد ترامپ نگرانیها درباره خطرات هوش مصنوعی را رد کرد · رئیس و chairman شرکت چوبو الکتریک ژاپن به دلیل تقلب دادهها استعفا کردند
