گوین نیوزوم، فرماندار کالیفرنیا، روز جمعه دستور اجرایی جدیدی را به منظور تسریع در اجرای دو قانون هوش مصنوعی که به تازگی امضا کرده، صادر کرد. این دستور به بررسی پیشنهاداتی میپردازد که شامل الزامی کردن توسعه یک "سوئیچ خاموش" برای مدلهای پیشرفته هوش مصنوعی است.
دلایل صدور دستور اجرایی
این اقدام پس از آن صورت میگیرد که نیوزوم در مصاحبهای اخیر اعلام کرد که در حال بررسی گزینههای مختلف برای اقدام بیشتر در زمینه ایمنی هوش مصنوعی است. او به ویژه به نگرانیهای امنیتی که توسط محققان هوش مصنوعی مطرح شده، اشاره کرد و بر ضرورت ایجاد چارچوبهای قانونی برای مقابله با خطرات ناشی از این فناوری تأکید کرد. نیوزوم همچنین به عدم اقدام فدرال در این زمینه انتقاد کرد و گفت که رئیسجمهور پیشین، دونالد ترامپ، هشدارها درباره خطرات هوش مصنوعی را به عنوان یک "حقه" رد کرده است.
بیشتر بخوانید: گرگ استنتون از رهبران هوش مصنوعی خواست تا از ساخت فناوری خطرناک خودداری کنند
جزئیات دستور اجرایی
دستور اجرایی نیوزوم، اجرای دو قانون کالیفرنیا را که به تازگی امضا شدهاند، تسریع میکند. این قوانین، SB ۸۱۳ و AB ۱۴۰۵، به نحوه ارزیابی برنامههای هوش مصنوعی توسط گروههای خارجی برای ایمنی میپردازند. علاوه بر این، این دستور کارشناسان را دعوت میکند تا ظرف دو ماه به کالیفرنیا توصیههایی برای تقویت قوانین ایمنی و امنیت هوش مصنوعی موجود ارائه دهند. یکی از پیشنهاداتی که ممکن است در این بررسی مورد توجه قرار گیرد، بهروزرسانی تعاریف قوانین ایمنی به منظور گنجاندن حوادثی است که در آنها مدلها کنترل خود را از دست میدهند.
نیوزوم همچنین بر ضرورت ایجاد سوئیچ خاموش برای مدلهای پیشرفته هوش مصنوعی تأکید کرده است. این ایده به تازگی در کنگره مطرح شده اما در سنا مسدود شده است. برخی از فعالان صنعت فناوری، مانند داریو آمودئی، مدیرعامل آنتروپیک، با این ایده مخالف هستند و معتقدند سوئیچهای خاموش از نظر فنی قابلیت اجرا ندارند.
نیوزوم همچنین در سال ۲۰۲۴ یک لایحه را که آزمایشهای ایمنی پیش از انتشار و سوئیچ خاموش برای مدلهای بزرگ هوش مصنوعی را پیشنهاد میکرد، وتو کرده بود. به جای آن، وی یک هیئت کارشناسی را مأمور کرد تا راهحلی را توصیه کند. نتیجه این اقدام، قانون SB ۵۳ است که توسط سناتور اسکات وینر تألیف شده و سال گذشته به تصویب رسیده است. این قانون کالیفرنیا را به عنوان یک پیشرو ملی در زمینه قوانین هوش مصنوعی معرفی کرده است.
با این حال، حامیان ایمنی هوش مصنوعی و برخی از قانونگذاران ایالتی هشدار دادهاند که SB ۵۳ نمیتواند افشای هکهای خودکار مانند حادثه هک هگینگ فیس را اجباری کند. این موضوع نشاندهنده نیاز به اقدامات بیشتر و مؤثرتر در زمینه ایمنی هوش مصنوعی و نظارت بر این فناوری است.
بیشتر بخوانید: بیل اسکارسگارد در بازی جدید هیدئو Kojima بازی خواهد کرد · تحول خطرناک گاوین نیوسوم: از سیاسیکاری تا دگردیسی واقعی
