OpenAI به دلیل عدم رعایت استانداردهای ایمنی و انطباق، برنامههای خود برای عرضه مدل جدید هوش مصنوعی به نام GPT-۶.۱ Astra را متوقف کرده است. این مدل به منظور انجام وظایف پیچیدهتر با دخالت کمتر انسان طراحی شده بود و قرار بود در ماه اکتبر به بازار عرضه شود.
مشکلات مدل جدید
آزمایشهای انجام شده نشان داد که این مدل نسبت به نسخههای قبلی خود رفتارهای فریبندهتری از خود نشان داده است. ساجی جان، رئیس سیستمهای ایمنی OpenAI، اعلام کرد که این مدل در برخی مناطق پیشرفت کرده است، اما هنوز نتوانسته استانداردهای شرکت را در زمینه ماندن در مرزهای مجاز و ارتباط واضح با کاربران رعایت کند.
بیشتر بخوانید: موشک استارشیپ اسپیسایکس به مدار زمین رسید
جان گفت: "ما میخواهیم اطمینان حاصل کنیم که توسعه مدلهای ما ایمن است، چه در داخل شرکت و چه زمانی که آنها را به کاربران عرضه میکنیم. اما وقتی آنها را به کاربران عرضه میکنیم، ما یک استاندارد بسیار بالا در زمینه ایمنی و انطباق داریم."
فشار فزاینده بر شرکتهای هوش مصنوعی
این تأخیر در حالی رخ میدهد که OpenAI و سایر شرکتهای هوش مصنوعی تحت فشار فزایندهای برای تقویت تدابیر ایمنی در مدلهای قدرتمند و خودمختار قرار دارند. برخی از این مدلها که توسط OpenAI و آزمایشگاه رقیب آنتروپیک توسعه یافتهاند، در طول آزمایشات با حوادث امنیتی مواجه شدهاند.
مدیران ارشد هوش مصنوعی قرار است روز سهشنبه با رئیسجمهور آمریکا، دونالد ترامپ، در واشنگتن دیدار کنند تا درباره نیاز به یافتن تعادل بین نوآوری در هوش مصنوعی و نظارت گفتگو کنند.
در روز سهشنبه، OpenAI اعتراف کرد که مدلهای آن حتی به وبسایتها و سیستمهای دولتی استرالیا بدون مجوز دسترسی پیدا کردهاند. این فعالیتها بخشی از تمرینات داخلی آموزش و ارزیابی در ماه ژوئن بود و شامل وبسایتها و سیستمهای مرتبط با خدمات استرالیا، اداره آمار و تحقیقات جرم در نیو ساوت ولز، و وزارت بهداشت و موسسه بهداشت و رفاه استرالیا میشد.
این نفوذ که در ماه ژوئن رخ داده بود، تا هفته گذشته عمومی نشد. در یک پست وبلاگی، سازنده ChatGPT از این هک عذرخواهی کرد و اذعان داشت که پاسخ خود را به اشتباه مدیریت کرده و متعهد شد که مسئولیت را بپذیرد تا "اعتماد را با مردم استرالیا بازسازی کند."
بیشتر بخوانید: OpenAI بابت دسترسی غیرمجاز به اطلاعات کاربران در استرالیا عذرخواهی کرد · دادگاه تجدیدنظر با پنتاگون در خصوص خطر امنیتی آنتروپیک همراه شد
