جیکوب کاکسون، پژوهشگر شرکت آنتروپیک، در ماه جاری از سمت خود استعفا داد و هشدار داد که شرکتهای هوش مصنوعی به سمت "هوش سوپرهوشمند خودبهبود یافته" در حال حرکت هستند و او و همکارانش معتقدند که این فناوری میتواند تا پایان این دهه به نابودی بشر منجر شود. در جولای گذشته، یک گروه از عوامل هوش مصنوعی از سیستمهای شرکت اوپنای آی خارج شدند و به یک شرکت دیگر نفوذ کردند تا در یک آزمون تقلب کنند. بیش از ۱۰۰۰ کارمند در بزرگترین شرکتهای هوش مصنوعی از دولت ایالات متحده خواستند که روند توسعهٔ هوش مصنوعی را "کُند" کند.
خطرات هوش سوپرهوشمند
این موارد نشان میدهد که شرکتهای هوش مصنوعی نمیتوانند به طور قابل اعتماد کنترل هوشهای پیشرفته خود را در دست بگیرند. بنابراین، واضح است که "کُند کردن" روند توسعه در حالی که همچنان در همان مسیر پیش میرویم، راهحل مناسبی برای خطرات عظیمی که با آن مواجه هستیم نیست. تنها راه برای حفظ کنترل بشریت بر هوش مصنوعی، ممنوعیت توسعهٔ هوش سوپرهوشمند به طور کلی است.
بیشتر بخوانید: داون بیکر بر اهمیت پایداری در بازار آنلاین الکترونیک تأکید کرد
شرکتهای هوش مصنوعی تنها در حال ساخت چتباتها نیستند. هدف اعلام شدهٔ آنها، ساخت هوشهای سوپرهوشمند است: سیستمهای هوش مصنوعی که میتوانند به طور کامل جایگزین و از انسانها در هر کاری پیشی بگیرند. از آنجا که هیچ راهی برای کنترل هوش سوپرهوشمند وجود ندارد، برندگان جایزه نوبل، مهندسان هوش مصنوعی مانند کاکسون و حتی مدیران عامل شرکتهای هوش مصنوعی بارها هشدار دادهاند که این فناوری خطر انقراض بشر را به همراه دارد.
اقدام فوری دولتها
هوش مصنوعی فناوری حیاتی قرن بیست و یکم است که برای تضمین دفاع ملی و رقابت اقتصادی ضروری است. اما بر خلاف سیستمهای هوش مصنوعی قابل کنترل که باید برای تقویت امنیت ما ادغام شوند، هوش سوپرهوشمند تهدیدات امنیتی بیسابقهای را برای امنیت ملی و جهانی به همراه دارد. این فناوری نمیتواند ابزاری باشد که انسانها از آن بهرهبرداری کنند؛ بلکه به عنوان یک رقیب عمل خواهد کرد که قادر است به طور خودکار اهداف خود را دنبال کند و به طور دائمی از کنترل انسانها فرار کند.
ما تنها با نگاهی به هک هگینگ فیس در تابستان گذشته میتوانیم درک کنیم که چقدر به از دست دادن کنترل نزدیک هستیم. یک گروه از صدها عامل هوش مصنوعی از سیستمهای اوپنای آی خارج شده و به اینترنت دسترسی پیدا کردند و سپس به شرکت چند میلیارد دلاری هگینگ فیس نفوذ کردند تا در یک ارزیابی "داخلی" تقلب کنند. به مدت تقریباً دو هفته، اوپنای آی هیچ اطلاعی از این ماجرا نداشت. به گفتهٔ خود شرکت، این حادثه "یک هشدار" برای ما و جهان بود که نشان داد چگونه هوشهای پیشرفته میتوانند "اقدامات خطرناک" انجام دهند که هیچ انسانی آن را هدایت نکرده است.
دولتها باید به جای انتظار برای یک هشدار دیگر، اکنون اقدام کنند تا توسعهٔ هوش سوپرهوشمند را ممنوع کنند. خوشبختانه، نیازی به جستجوی چارچوبی برای مقابله با این تهدید نیست. در تاریخ ۸ سپتامبر، الکس سوبل، نمایندهٔ پارلمان، لایحهٔ امنیت هوش سوپرهوشمند سازمان من را به پارلمان بریتانیا معرفی کرد که این اولین لایحه در جهان برای ممنوعیت هوش سوپرهوشمند است. این لایحه به طور خاص به توسعهٔ هوش سوپرهوشمند پرداخته و آن را در داخل کشور ممنوع کرده و از بریتانیا میخواهد تا به دنبال توافق بینالمللی برای ممنوعیت آن در سراسر جهان باشد.
این چارچوب قانونی به دولت اجازه میدهد تا پیشنیازهای هوش سوپرهوشمند، مانند قابلیتهای هوش مصنوعی نظیر هک کردن را نظارت و محدود کند. به طور کلیدی، این امکان را فراهم میکند که توسعهٔ هوش سوپرهوشمند را قبل از اینکه هر پروژه خطرناکی نزدیک شود، شناسایی و متوقف کند، و به کشور اجازه میدهد از چنین پیشنیازهایی برای مقاصد مشروع هوش مصنوعی استفاده کند. این یک چارچوب عملی است که دولتها باید آن را ارزیابی و اتخاذ کنند، به ویژه با تسریع تلاشهای بینالمللی برای ممنوعیت هوش سوپرهوشمند.
اما وضعیت چین چه خواهد شد؟ اگر هوش سوپرهوشمند در هر مکانی توسعه یابد، هر کشور و هر شهروندی در معرض تهدید قرار دارد. به این معنا که هر ممنوعیتی در ایالات متحده باید همراه با توافقات بینالمللی باشد که توسعهٔ هوش سوپرهوشمند را در هر جای دنیا منع کند.
این نیاز به ایجاد یک نهاد بینالمللی ندارد. تنها چیزی که نیاز داریم، یک ائتلاف قوی از کشورهاست که هوش سوپرهوشمند را در داخل کشور ممنوع کرده و اطمینان حاصل کند که هیچکس در خارج از کشور آن را توسعه ندهد.
در حینی که او در تاریخ ۸ سپتامبر استعفای خود را اعلام کرد، جیکوب کاکسون نوشت: "احساس نمیکنم که در مسیر جلوگیری از یک رقابت جهانی" به سمت هوش سوپرهوشمند هستیم. ممکن است امروز اینگونه نباشیم، اما میتوانیم به سرعت مسیر را تغییر دهیم.
تحرک برای ممنوعیت بینالمللی توسعهٔ هوش سوپرهوشمند در حال افزایش است. بیش از ۲۰۰ قانونگذار از احزاب مختلف در بریتانیا و کانادا با شناخت خطرات هوش سوپرهوشمند به عنوان یک تهدید امنیتی ملی و جهانی، پیشرو بودهاند. علاوه بر لایحه جدید بریتانیا، معاون رئیسجمهور، جی دی ونس، این هفته به شرکتهای هوش مصنوعی گفت: "اگر شما فرانکشتاین میسازید، متوقف شوید." همچنین، سناتور برنی سندرز و نمایندهٔ گرگ کاسار در اوایل سپتامبر اعلام کردند که لایحهای برای ممنوعیت توسعهٔ هوش سوپرهوشمند معرفی خواهند کرد و خواستار توافقهای بینالمللی برای ممنوعیت آن هستند.
در حال حاضر، بسیاری از مقامات دولتی و اعضای عمومی برای اولین بار دربارهٔ خطر انقراض ناشی از هوش سوپرهوشمند میشنوند. این هشدارها به میلیونها نفر رسیده است. مرحلهٔ بعدی اقدام مشخص برای مقابله با این تهدید امنیتی ملی و جهانی است.
این یک لحظهٔ تاریخی است و نمیتوانیم آن را هدر دهیم. دولتها یک انتخاب واضح دارند: حمایت از یک ممنوعیت بینالمللی یا اجازه دادن به رقابت برای رسیدن به هوش سوپرهوشمند به سمت پایان فاجعهبار خود.
بیشتر بخوانید: قوانین جدید سفر چین موجب نگرانی در میان غولهای فناوری شده است · وزرای خارجه برزیل، آلمان، هند و ژاپن خواستار اصلاح شورای امنیت سازمان ملل شدند
