گزارش جدیدی که به تازگی منتشر شده است، به بررسی رقابت بین شرکت‌های بزرگ هوش مصنوعی برای توسعه هوش مصنوعی خودبهبوددهنده می‌پردازد. این گزارش که توسط شرکت گلادستون AI تهیه شده، به تحلیل خطرات و چالش‌های این فناوری در آینده نزدیک می‌پردازد. در ماه‌های اخیر، شرکت‌های آنتروپیک و اوپن‌ای آی هشدار داده‌اند که هوش مصنوعی ممکن است به زودی قادر به بهبود خود باشد.
خطرات و چالش‌های هوش مصنوعی خودبهبوددهنده
این نقطه عطف که به عنوان 'بهبود خودبخود بازگشتی' یا RSI شناخته می‌شود، می‌تواند به معنای ظهور قابلیت‌های جدید هوش مصنوعی با سرعتی بی‌سابقه باشد. با این حال، ظهور RSI ممکن است برای بشریت بسیار خطرناک باشد و ممکن است علامت مرحله‌ای باشد که توسعه‌دهندگان کنترل سیستم‌های هوش مصنوعی را به طور کامل از دست بدهند.
بیشتر بخوانید: رگولاتورهای حریم خصوصی اروپا قوانین جدیدی برای عینک‌های هوشمند معرفی کردند
گزارش گلادستون تأکید می‌کند که شرکت‌های هوش مصنوعی به طور فعال در حال کار بر روی خودکارسازی تمام مراحل توسعه هوش مصنوعی هستند. این شامل تولید ایده‌های جدید، انجام آزمایشات برای ارزیابی آن ایده‌ها و تفسیر نتایج می‌شود. اکثر محققانی که گلادستون با آن‌ها صحبت کرده است، بر این باورند که RSI ممکن است در آینده نزدیک، بین ۳ تا ۱۲ ماه دیگر، شروع شود.
اهمیت تنظیم‌گری در توسعه هوش مصنوعی
مدیران گلادستون هدف این گزارش را ارتقای درک قانون‌گذاران از نحوه کارکرد RSI و در نتیجه، توانایی بیشتر آن‌ها برای تنظیم‌گری این فناوری عنوان کرده‌اند. جرمی هریس، مدیرعامل گلادستون، بیان کرده است که هدف آن‌ها این است که مفهوم بهبود خودبخود بازگشتی به اندازه‌ای تعریف شود که مردم بتوانند در مورد آن به طور منطقی صحبت کنند، به ویژه در واشنگتن. وی به تلاش‌های قانونی برای ممنوعیت هوش مصنوعی فوق‌هوشمند اشاره کرده و خواستار تمرکز بر فرآیندهایی شده است که نیاز به تنظیم‌گری دارند.
گزارش همچنین یک نمای ساده از چگونگی عملکرد فرآیند تحقیق هوش مصنوعی در داخل شرکت‌ها ارائه می‌دهد و توضیح می‌دهد که چگونه این شرکت‌ها به تدریج در حال خودکارسازی این فرآیند هستند. در مرحله اول آموزش مدل‌های هوش مصنوعی که به عنوان پیش‌آموزش شناخته می‌شود، تمرکز بر روی یافتن راه‌هایی برای افزایش هوش مدل با استفاده از قدرت محاسباتی کمتر قرار دارد.
شرکت‌های هوش مصنوعی از رویکرد پرتفوی برای آزمایش این ایده‌ها استفاده می‌کنند. محققان مقدار کمی از قدرت محاسباتی را به هر ایده اختصاص می‌دهند و از آن برای آموزش یک سری مدل‌ها استفاده می‌کنند. مدل‌هایی که به طور قابل‌اعتمادی عملکرد بهتری دارند، برای یک دور دیگر آموزش انتخاب می‌شوند که در آن از مقادیر بیشتری از قدرت محاسباتی استفاده می‌شود.
شرکت‌ها به دلیل محدودیت‌های قدرت محاسباتی، نمی‌توانند تمام ایده‌های امیدوارکننده را در مقیاس‌های بزرگ‌تر آزمایش کنند. این بدان معناست که حتی اگر شرکت‌های هوش مصنوعی بتوانند مدلی را آموزش دهند که قادر به تولید ایده‌های امیدوارکننده باشد، مهم است که چند ایده بد به صورت همزمان تولید می‌شود. اگر شرکت‌ها مجبور باشند زمان و قدرت محاسباتی زیادی را صرف فیلتر کردن ایده‌های خوب از بد کنند، منطقی خواهد بود که همچنان به محققان انسانی با شهود صحیح وابسته باشند.
در عوض، شرکت‌های هوش مصنوعی با دسترسی به قدرت محاسباتی بیشتر می‌توانند ایده‌های بیشتری را آزمایش کنند و این ممکن است به آن‌ها کمک کند تا زودتر به RSI برسند. با قدرت محاسباتی بیشتر برای آزمایش‌ها، شرکت‌ها احتمال بیشتری دارند که ایده‌هایی را پیدا کنند که به گفته گزارش گلادستون نادرترین و موردنظرترین ایده‌ها هستند: ایده‌هایی که با افزایش قدرت محاسباتی عملکرد بهتری پیدا می‌کنند، حتی اگر در مقیاس‌های کوچک‌تر به نظر بیایند که ناموفق هستند.
قادر بودن به شناسایی زمانی که این ایده‌ها پیدا می‌شوند و به ویژه اینکه آیا هوش مصنوعی در پیدا کردن آن‌ها کمک می‌کند یا نه، "بخشی حیاتی از این فرآیند است که در حال حاضر قانون‌گذاران عملاً هیچ دیدی نسبت به آن ندارند"، می‌گوید جرمی هریس. یکی از ویژگی‌هایی که تنظیم‌گری RSI را دشوار می‌کند، تدریجی بودن این فرآیند است. ادوراد هریس می‌گوید: "این یکی از دلایلی است که ما به شکلی دقیق به توصیف آن پرداخته‌ایم تا امکان اشاره به یک قسمت از این فرآیند و گفتن اینکه یک انسان باید در آنجا باشد، فراهم شود."
بیشتر بخوانید: اروپا از رقابت در زمینه هوش مصنوعی پیشرفته کناره‌گیری می‌کند · Kroger سه هزار کارمند اداری را به دلیل افزایش استفاده از هوش مصنوعی اخراج می‌کند
