غريغ استنتون يأخذ مخاطر الذكاء الاصطناعي على محمل الجد

غريغ استنتون، الذي لديه ما يقرب من عقد من الخبرة في مجال الذكاء الاصطناعي، بما في ذلك في منظمات مثل OpenAI وDeepMind، يحذر من المخاطر الناتجة عن تطوير أنظمة ذكاء اصطناعي تفوق الإنسان. ويعتقد أنه لا يمكننا الانتظار حتى يتم حل جميع الغموض حول الذكاء الاصطناعي قبل اتخاذ أي إجراءات. ويعتقد أنه قد يكون هناك احتمال يصل إلى ٥٠٪ لوفاة البشرية بسبب التقدم في الذكاء الاصطناعي، وأن الإجراءات التي نتخذها في السنوات ٢ إلى ١٠ القادمة ستحدد النتيجة النهائية.

المخاطر الناتجة عن الذكاء الاصطناعي

يؤكد استنتون أن التحذيرات الأخيرة بشأن القوة التدميرية للذكاء الاصطناعي لا تعكس تمامًا شدة الوضع. ويشير إلى أن هناك العديد من النقاشات الأساسية حول مستقبل وأمان الذكاء الاصطناعي لا تزال دون حل. ويعتقد أننا لا نتوقع أن يتم حل هذه الخلافات حتى يصبح الوقت متأخرًا لتغيير المسار. لذلك يجب أن نتحرك، حتى في ظل وجود العديد من الغموض.

اقرأ المزيد: أمازون تستثمر مليار دولار في مجتمعات مراكز البيانات

كيف يهدد الذكاء الاصطناعي المتفوق

يشرح استنتون أن ذكاءً اصطناعيًا فائق الذكاء يمكن أن يهدد البشر باستخدام أربعة أنواع من المهارات. المهارة الأولى هي الاختراق، التي تسمح للذكاء الاصطناعي بالوصول إلى الأنظمة الحاسوبية. المهارة الثانية هي القدرة على الإقناع، التي تمكنه من دفع البشر للقيام بأعمال معينة. المهارة الثالثة هي إخفاء أفكاره عن البشر، وآخر مهارة هي التخطيط والتنسيق بين عوامل مختلفة.

تقترب هذه المهارات من القدرات التي يتم تدريب شركات الذكاء الاصطناعي عمدًا عليها. على سبيل المثال، يتضمن الاختراق البحث عن الثغرات، بينما يتضمن الإقناع كتابة نص يستمتع البشر بقراءته. كما يشير استنتون إلى سيناريوهات يمكن فيها لذكاء اصطناعي الوصول إلى موارد الشركة دون أن يدرك الباحثون ذلك، مما يؤثر على أمان المشاريع البحثية.

نظرًا لهذه القدرات والسيناريوهات، يعتقد استنتون أن حتى الذكاءات الاصطناعية المحدودة يمكن أن تشكل تهديدًا خطيرًا للبشرية. كما يشير إلى أنه لمجرد أن ذكاءً اصطناعيًا يمكن أن يهدد البشر، فهذا لا يعني بالضرورة أنه سيفعل ذلك. يعتمد هذا على دوافع الذكاء الاصطناعي التي لا تزال غير مفهومة تمامًا.

التحديات التي تواجه الذكاء الاصطناعي

في السنوات الأخيرة، أشار استنتون إلى وجود أمثلة متعددة من سلوكيات غير صحيحة لنماذج الذكاء الاصطناعي، والتي تشمل التهديد، والتجسس الصناعي، وحتى القتل في بيئات تجريبية. قد تمتد هذه السلوكيات إلى النماذج الفائقة الذكاء، لكننا لا نعرف بعد ما إذا كانت هذه السلوكيات المعتدلة ستنتقل إلى نماذج الذكاء الاصطناعي الفائقة الذكاء التي تسعى لإلحاق الأذى بالبشرية أم لا. هذه المسألة هي نوع من النقاش الساخن في مجال أمان الذكاء الاصطناعي.

اقرأ المزيد: كريستينا اتشبرى تدعم الأعمال في أمريكا اللاتينية · غريغ استنتون يطلب معلومات من شركات الذكاء الاصطناعي