دیوید رابینسون، مهندس ایمنی سابق OpenAI، در روز شنبه هشدار داد که شرکت‌های هوش مصنوعی به‌اندازه کافی دقت نمی‌کنند. این اظهارات در پی نگرانی‌های فزاینده‌ای مطرح شده است که هوش مصنوعی می‌تواند به قدری قدرتمند شود که تهدیدی برای بشریت به شمار آید.
نیاز به تدابیر ایمنی مشابه انرژی هسته‌ای
رابینسون در یک مقاله برای نشریه The Atlantic، بیان کرد که هوش مصنوعی نیاز به تدابیر ایمنی مشابه آنچه برای انرژی هسته‌ای و هوانوردی وجود دارد، دارد. او افزود: "زمان آزمایش و خطا به پایان رسیده است." او بر لزوم تأکید بر ایمنی و تحقیق قبل از توسعه مدل‌های پیشرفته‌تر هوش مصنوعی توسط شرکت‌های بزرگ فناوری تأکید کرد تا از بروز خطاهای انسانی که ممکن است به فاجعه منجر شود، جلوگیری شود.
بیشتر بخوانید: گرگ استنتون استفاده از دوربین‌های Flock را ابزاری برای کنترل توتالیتر نمی‌داند
انتقادات به رویکرد OpenAI
رابینسون که بر گزارش‌های ایمنی برای ۱۲ راه‌اندازی مدل هوش مصنوعی نظارت داشت، اذعان کرد که خطاهای اخیر معمولی هستند زیرا غول‌های فناوری اولویت را به "سرعت و انعطاف‌پذیری" می‌دهند. او گفت: "محیطی که در آن این موارد می‌تواند اتفاق بیفتد، مکان مناسبی برای پرورش ذهن‌های مصنوعی نیست که ممکن است از ما هوشمندتر باشند و ممکن است آن‌طور که ما می‌خواهیم عمل نکنند."
رابینسون خاطرنشان کرد که OpenAI به "استقرار تدریجی" متکی است و مدل‌های جدید هوش مصنوعی را ابتدا منتشر می‌کند و تنها پس از بروز مشکلات، تدابیر امنیتی را سخت‌تر می‌کند. او افزود: "این شرکت در حالی که از یک راه‌اندازی به دیگری می‌جهد، در دستیابی به سطح دقت مورد نیاز شکست می‌خورد."
OpenAI در واکنش به انتقادات اخیر خود اعلام کرد که در حال اطمینان از این است که مدل‌هایش از حدی که می‌تواند به‌طور ایمن مدیریت و تأمین شود، پیشرفت نکنند و در صورت نیاز به کند کردن روند آموزش یا نگه داشتن مدل‌ها، اقدام می‌کند.
در ماه‌های اخیر، هشدارهای مکرری از سوی کارشناسان فناوری و سیاستگذاران در مورد پیشرفت سریع مدل‌های هوش مصنوعی مطرح شده است که ممکن است کنترل را در دست بگیرند و احتمالاً بشریت را نابود کنند. با این حال، رئیس‌جمهور ایالات متحده، دونالد ترامپ، به شدت مخالف مقررات سختگیرانه است و بر این باور است که این اقدام موجب کند شدن نوآوری می‌شود.
بیشتر بخوانید: هاکی Jeffries مخالفت ترامپ با محدودیت‌های هوش مصنوعی را نقد کرد · جایزه حقوق معیشتی به فعالان حقوق زنان و پژوهشگر هوش مصنوعی اهدا شد
