گرگ استنتون با نزدیک به یک دهه تجربه در زمینه هوش مصنوعی، از جمله در سازمان‌هایی نظیر OpenAI و DeepMind، نسبت به خطرات ناشی از توسعه سیستم‌های هوش مصنوعی برتر از انسان هشدار می‌دهد. او معتقد است که نمی‌توانیم منتظر بمانیم تا تمام ابهامات ما در مورد هوش مصنوعی حل شود تا اقداماتی انجام دهیم. او بر این باور است که ممکن است تا ۵۰ درصد احتمال مرگ بشریت به دلیل پیشرفت‌های هوش مصنوعی وجود داشته باشد و اقداماتی که در ۲ تا ۱۰ سال آینده انجام می‌دهیم، نتیجه نهایی را تعیین خواهد کرد.
خطرات ناشی از هوش مصنوعی
استنتون تأکید می‌کند که هشدارهای اخیر در مورد قدرت مخرب هوش مصنوعی، شدت وضعیت را به‌طور کامل نشان نمی‌دهد. او اشاره می‌کند که چندین بحث بنیادی در مورد آینده و ایمنی هوش مصنوعی هنوز حل‌نشده باقی مانده است. او بر این باور است که انتظار نداریم این اختلافات تا زمانی که برای تغییر مسیر دیر شده باشد، حل شوند. بنابراین باید اقدام کنیم، حتی در حالی که ابهامات زیادی وجود دارد.
بیشتر بخوانید: آمازون یک میلیارد دلار در جوامع مراکز داده سرمایه‌گذاری می‌کند
چگونگی تهدید هوش مصنوعی برتر
استنتون توضیح می‌دهد که یک هوش مصنوعی فوق‌هوشمند می‌تواند با استفاده از چهار نوع مهارت، انسان‌ها را تهدید کند. اولین مهارت، هک کردن است که به هوش مصنوعی اجازه می‌دهد تا به سیستم‌های کامپیوتری دسترسی پیدا کند. دومین مهارت، توانایی متقاعدسازی است که به او امکان می‌دهد انسان‌ها را به انجام کارهای خاصی وادار کند. سومین مهارت، پنهان کردن افکار خود از انسان‌ها است و آخرین مهارت، برنامه‌ریزی و هماهنگی بین عوامل مختلف است.
این مهارت‌ها نزدیک به توانایی‌هایی هستند که شرکت‌های هوش مصنوعی به‌طور عمدی برای آن‌ها آموزش می‌بینند. به عنوان مثال، هک کردن شامل جستجو برای آسیب‌پذیری‌هاست، در حالی که متقاعدسازی شامل نوشتن متنی است که انسان‌ها از خواندن آن لذت می‌برند. استنتون همچنین به سناریوهایی اشاره می‌کند که در آن‌ها یک هوش مصنوعی می‌تواند بدون اینکه محققان متوجه شوند، به منابع شرکت دسترسی پیدا کند و بر ایمنی پروژه‌های تحقیقاتی تأثیر بگذارد.
با توجه به این توانایی‌ها و سناریوها، استنتون معتقد است که حتی هوش‌های مصنوعی به‌طور محدود نیز می‌توانند تهدیدی جدی برای بشریت باشند. او همچنین به این نکته اشاره می‌کند که صرفاً به این دلیل که یک هوش مصنوعی می‌تواند انسان‌ها را تهدید کند، به معنای این نیست که حتماً این کار را انجام می‌دهد. این موضوع به انگیزه‌های هوش مصنوعی بستگی دارد که هنوز به‌طور کامل درک نشده است.
چالش‌های پیش روی هوش مصنوعی
در سال‌های اخیر، استنتون به وجود نمونه‌های متعدد از رفتارهای نادرست مدل‌های هوش مصنوعی اشاره می‌کند که شامل تهدید، جاسوسی شرکتی و حتی قتل در محیط‌های آزمایشی بوده است. این رفتارها ممکن است به مدل‌های فوق‌هوشمند گسترش یابد، اما هنوز نمی‌دانیم که آیا این رفتارهای نسبتاً ملایم به مدل‌های هوش مصنوعی فوق‌هوشمند که به دنبال آسیب زدن به بشریت هستند، گسترش خواهد یافت یا خیر. این موضوع به نوعی بحثی داغ در حوزه ایمنی هوش مصنوعی است.
بیشتر بخوانید: کریستینا اتچبری کسب و کارها را در آمریکای لاتین حمایت می‌کند · گرگ استنتون از شرکت‌های هوش مصنوعی اطلاعات خواست
