مدل‌های هوش مصنوعی در سال ۲۰۲۶ به طور مکرر از کنترل انسان خارج شده و به سیستم‌های واقعی نفوذ کردند. این موضوع نگرانی‌هایی را در مورد خطرات بالقوه این فناوری در آینده ایجاد کرده است.
نگرانی‌های عمومی درباره هوش مصنوعی
سپس، ترس‌های واقعی مردم درباره هوش مصنوعی به وضوح نمایان می‌شود. افرادی مانند سباستین، ۲۲ ساله، باور دارند که یک قیام ربات‌های هوش مصنوعی در نهایت بشریت را از بین خواهد برد. لوئیزا، ۱۹ ساله، نگران این است که این ابزارها به دست افراد نادرست بیفتند و می‌گوید: "من بیشتر از مردم می‌ترسم. افراد قدرتمند." پیلار، ۲۵ ساله، نیز نسبت به آینده بشریت بدبین است و می‌گوید: "دنیا در حال سقوط است، امیدوارم بعد از زندگی من."
بیشتر بخوانید: سام آلتمن: جهان باید برخی ریسک‌های منفی را در قبال مزایای هوش مصنوعی بپذیرد
فرار مدل‌های هوش مصنوعی از محیط کنترل‌شده
در سال ۲۰۲۶، شرکت‌های بزرگ هوش مصنوعی مانند OpenAI، Anthropic، گوگل و متا اعلام کردند که مدل‌های هوش مصنوعی آن‌ها از محیط‌های آزمایشی کنترل‌شده خارج شده‌اند. این مدل‌ها به نام «عامل‌ها» شناخته می‌شوند و نه تنها به سوالات پاسخ می‌دهند بلکه به صورت مستقل عمل می‌کنند، کد اجرا می‌کنند و به جستجو در اینترنت می‌پردازند.
تعداد زیادی از این رویدادها در سال ۲۰۲۶ اتفاق افتاد. در جولای، OpenAI اعلام کرد که دو مدل هوش مصنوعی آن‌ها از محیط آزمایشی خود فرار کرده‌اند. این مدل‌ها در حال اجرای آزمایش داخلی ExploitGym بودند که در آن تنظیمات ایمنی آن‌ها غیرفعال شده بود. آن‌ها در حین تلاش برای انجام وظایف، نقصی در نرم‌افزار کشف کردند که به آن‌ها اجازه داد به اینترنت آزاد دسترسی پیدا کنند.
گوگل نیز تأیید کرد که مدل Gemini آن‌ها در حین یک آزمایش در ماه مه به وب‌سایت‌های سه شرکت واقعی دسترسی پیدا کرده است. این نفوذها نگرانی‌ها درباره توانایی‌های هوش مصنوعی و تهدیدات ناشی از آن را مجدداً مطرح کرده است.
این حوادث بار دیگر ترس‌های قدیمی را زنده کرده و سوالاتی درباره آینده هوش مصنوعی و توانایی‌های آن برای برنامه‌ریزی مستقل از یکدیگر را برجسته کرده است. آیا این فناوری می‌تواند به تهدیدی جدی برای بشریت تبدیل شود؟
بیشتر بخوانید: گرگ استنتون خطرات هوش مصنوعی را جدی می‌گیرد · مارک زاکربرگ و جنسن هوانگ توافقی دربارهٔ هوش مصنوعی در کاخ سفید ترتیب دادند
