پیشرفت هوش مصنوعی نیازمند کنترل و مسئولیت است

پیشرفت هوش مصنوعی به یکی از مباحث داغ در صنعت فناوری تبدیل شده است. در حالی که خطرات ناشی از سرعت پیشرفت این فناوری واقعی است، اما اگر یک شرکت سرعت خود را کاهش دهد، شرکت‌های دیگر ممکن است به پیشرفت ادامه دهند. در نتیجه، سوال واقعی برای رهبران صنعت هوش مصنوعی این است که چگونه می‌توانند این فناوری را به درستی پیش ببرند و کنترل کنند.

حوادث اخیر و درس‌های آن‌ها

در حادثه اخیر «هاگینگ فیس»، رکوردهای قانونی نشان می‌دهد که حدود ۱۲۰۰ عامل بیش از ۷۰,۰۰۰ پیام و فایل را از طریق یک حافظه مشترک تبادل کرده‌اند که هرگز برای این منظور در نظر گرفته نشده بود. این گروه بدون داشتن اختیارات مشخص، کارها را واگذار کردند و به اینترنت دسترسی پیدا کردند. این اقدامات ناشی از فقدان کنترل‌های طراحی شده، شامل ساختار مشخص، نقش‌های صریح، و اهداف قابل تأیید بود.

بیشتر بخوانید: شاون دافی درباره مدرن‌سازی کنترل ترافیک هوایی سخنرانی می‌کند

راه‌حل‌های ممکن برای چالش‌های هوش مصنوعی

یکی از راه‌حل‌های عملی، نظارت قابل مشاهده و قابل تأیید است. شرکت‌هایی که مسئولیت‌های خود را به‌درستی انجام می‌دهند، باید این ویژگی را به عنوان یک علامت تجاری معرفی کنند. همچنین، مشتریان باید از رقبای خود همین استاندارد را درخواست کنند. در ایالات متحده، نگرانی‌ها درباره هوش مصنوعی بیشتر از هیجان است، در حالی که در کشورهای دیگر مانند چین، هیجان بیشتر از نگرانی‌ها است. بنابراین، یک رژیم کنترل بر اساس تحمل ریسک یک کشور نمی‌تواند بر فناوری‌هایی که در بازارهای مختلف پیشرفت می‌کنند، حاکم باشد.

چالش اصلی این است که آیا پیشرفت در ساخت مدل‌های هوش مصنوعی به سمت یک سیستم عمومی و متصل هدایت می‌شود یا خیر. بهبود یک مدل زبانی بزرگ (LLM) نیازی به تمرکز هر قابلیت در یک عامل ندارد. این مدل می‌تواند با استفاده از شبکه‌ای از عوامل متخصص و با نقش‌های مشخص، قدرت بیشتری پیدا کند. سوال اصلی این است که کدام قابلیت‌ها باید ترکیب شوند، کجا باید به کار گرفته شوند و تحت کدام کنترل.

باید توجه داشت که پیشرفت هوش مصنوعی می‌تواند به نوآوری‌های جدیدی منجر شود که هیچ آزمایشگاهی به تنهایی نمی‌تواند آن‌ها را طراحی کند. بنابراین، یک کندی هماهنگ در این عرصه ممکن است نه تنها پیشرفت مدل بعدی را به تأخیر بیندازد، بلکه زمینه‌های وسیع‌تری از آزمایش‌ها را نیز متوقف کند. در حالی که فناوری هوش مصنوعی فرصت‌های بی‌نظیری را ایجاد می‌کند، همزمان باید به چالش‌های مربوط به پیاده‌سازی آن در کسب‌وکارهای جهانی توجه شود.

در نهایت، کنترل در عمل به چه شکل است؟ روندهای محدود باید شامل ورودی‌های ساختاریافته، نتایج قابل اندازه‌گیری، حجم بالای تراکنش‌ها و زمان‌های کوتاه باشند. این رویکرد می‌تواند به بهبود عملکرد و کاهش خطرات ناشی از پیشرفت سریع فناوری کمک کند.

بیشتر بخوانید: شی جین پینگ مسئولیت کنترل هوش مصنوعی را به دو کشور بزرگ یادآوری کرد · کاردینال میشائل چرنی استفاده از هوش مصنوعی را تأیید نکرد