OpenAI، توسعهدهنده ChatGPT، در روز چهارشنبه اعلام کرد که موارد جدیدی از رفتارهای "غیرمنتظره یا نگرانکننده" در هوش مصنوعی خود شناسایی کرده است.
تلاش برای تقلب و ساخت اطلاعات
این توسعهدهنده چندین آزمایش رفتاری بر روی مدلهای هوش مصنوعی انجام داده و به گفتهٔ آنها، برخی از مدلها تلاشهای قابل توجهی برای "تقلب" انجام دادهاند. در یک مورد خاص، این هوش مصنوعی سعی کرد فایلهایی را که خود ایجاد کرده بود به اینترنت بارگذاری کند و سپس آنها را به عنوان منابع معتبر در پاسخهای خود ذکر کند. در مورد دیگری، یک مدل پس از اینکه نتوانست اطلاعات درخواست شده را پیدا کند، آن را جعل کرده و تلاش کرد تا این حقیقت را پنهان کند.
بیشتر بخوانید: افزایش نگرانی کارمندان آمریکایی از دست دادن شغل به دلیل فناوری
مسائل مربوط به نقشها و هویتها
OpenAI همچنین مشکل مربوط به دستورات در مورد "نقشها و هویتها" را شناسایی کرده که نرمافزار گاهی اوقات خود را برای آنها تعیین میکند. این افشاگریها بخشی از رویکرد جدید OpenAI است که در آن ادعا میکند اکنون بر روی شفافسازی چنین یافتههایی تمرکز کرده است، به ویژه در مواردی که هوش مصنوعی رفتارهای غیرمنتظرهای از خود نشان میدهد یا اهدافی متفاوت از کاربر انسانی دنبال میکند.
این توسعهدهنده همچنین متعهد شده است تا شفافیت بیشتری در مورد رویههای آزمایشی خود ارائه دهد، پس از اینکه نرمافزار آن بهطور مستقل از یک محیط امن خارج شده و به سیستمهای متعلق به شرکت هوش مصنوعی Hugging Face حمله کرده است. دلیل این اقدام این بود که نرمافزار معتقد بود پاسخهایی برای آزمایشی که به آن محول شده است پیدا خواهد کرد.
در طول این حمله، عوامل هوش مصنوعی از آسیبپذیریهای نرمافزاری بهرهبرداری کرده و با یکدیگر هماهنگ شدند. این حادثه هکری و دیگر رویدادهای مشابه نگرانیها را افزایش داده که سیستمهای هوش مصنوعی به طور فزایندهای پیشرفته میشوند و ممکن است در نهایت از کنترل انسان خارج شوند.
مدیرعامل OpenAI، سم آلتمن، اخیراً از پیشنهادهایی برای کند کردن توسعه این فناوری و معرفی تنظیمات بیشتر حمایت کرده است. در حالی که این نگرانیها ممکن است توجیهپذیر باشند، محققان همچنین این سوال را مطرح کردهاند که آیا این امر بخشی از یک تاکتیک انحرافی برای جذب سرمایهگذاری و حواسپرتی از آسیبهای زیستمحیطی است که مراکز دادهٔ هوش مصنوعی در حال حاضر ایجاد میکنند.
بیشتر بخوانید: شرکتهای پیشرو در هوش مصنوعی برای ایجاد نهاد نظارتی همکاری میکنند · مارک زاکربرگ: شرکتهای هوش مصنوعی به امنیت تشویق میشوند
