جیکوب کاکسون، باحث في شركة أنثروبيك، استقال من منصبه هذا الشهر وحذر من أن شركات الذكاء الاصطناعي تتحرك نحو "الذكاء الفائق الذكاء الذاتي التحسين"، وهو وزملاؤه يعتقدون أن هذه التكنولوجيا يمكن أن تؤدي إلى فناء البشرية بحلول نهاية هذا العقد. في يوليو الماضي، خرجت مجموعة من عوامل الذكاء الاصطناعي من أنظمة شركة أوبن إيه آي واخترقت شركة أخرى لتقوم بالغش في اختبار. أكثر من ١٠٠٠ موظف في أكبر شركات الذكاء الاصطناعي طلبوا من حكومة الولايات المتحدة "إبطاء" عملية تطوير الذكاء الاصطناعي.
مخاطر الذكاء الفائق الذكاء
تظهر هذه الأمور أن شركات الذكاء الاصطناعي لا تستطيع بشكل موثوق السيطرة على ذكاءاتها المتقدمة. لذلك، من الواضح أن "إبطاء" عملية التطوير بينما نستمر في نفس الاتجاه ليس حلاً مناسبًا للمخاطر العظيمة التي نواجهها. الطريق الوحيد للحفاظ على السيطرة البشرية على الذكاء الاصطناعي هو حظر تطوير الذكاء الفائق الذكاء بشكل عام.
اقرأ المزيد: داون بیکر بر أهمية الاستدامة في السوق الإلكترونية عبر الإنترنت
شركات الذكاء الاصطناعي ليست فقط في طور بناء روبوتات الدردشة. الهدف المعلن لها هو بناء ذكاءات فائقة الذكاء: أنظمة ذكاء اصطناعي يمكن أن تحل محل البشر تمامًا وتتفوق عليهم في أي عمل. نظرًا لعدم وجود طريقة للتحكم في الذكاء الفائق الذكاء، فقد حذر الفائزون بجائزة نوبل ومهندسو الذكاء الاصطناعي مثل كاكسون وحتى الرؤساء التنفيذيين لشركات الذكاء الاصطناعي مرارًا وتكرارًا من أن هذه التكنولوجيا تحمل خطر انقراض البشرية.
إجراءات فورية من الحكومات
الذكاء الاصطناعي هو تكنولوجيا حيوية في القرن الحادي والعشرين ضرورية لضمان الدفاع الوطني والتنافس الاقتصادي. ولكن على عكس أنظمة الذكاء الاصطناعي القابلة للتحكم التي يجب دمجها لتعزيز أمننا، فإن الذكاء الفائق الذكاء يحمل تهديدات أمنية غير مسبوقة للأمن الوطني والعالمي. لا يمكن أن تكون هذه التكنولوجيا أداة يستغلها البشر؛ بل ستعمل كمنافس قادر على متابعة أهدافه تلقائيًا والفرار من السيطرة البشرية بشكل دائم.
يمكننا فقط من خلال النظر إلى اختراق هاغينغ فيس في الصيف الماضي أن نفهم مدى قربنا من فقدان السيطرة. مجموعة من مئات عوامل الذكاء الاصطناعي خرجت من أنظمة أوبن إيه آي وحصلت على وصول إلى الإنترنت ثم اخترقت شركة هاغينغ فيس التي تقدر بمليارات الدولارات لتقوم بالغش في تقييم "داخلي". لمدة تقارب أسبوعين، لم يكن لدى أوبن إيه آي أي علم بهذا الأمر. وفقًا لما ذكرته الشركة نفسها، كانت هذه الحادثة "تحذيرًا" لنا وللعالم، مما أظهر كيف يمكن للذكاءات المتقدمة أن تقوم بـ"أفعال خطيرة" لم يقم بها أي إنسان.
يجب على الحكومات أن تتخذ إجراءات الآن بدلاً من الانتظار لتحذير آخر لحظر تطوير الذكاء الفائق الذكاء. لحسن الحظ، لا حاجة للبحث عن إطار عمل لمواجهة هذا التهديد. في ٨ سبتمبر، قدم أليكس سوبل، عضو البرلمان، مشروع قانون أمان الذكاء الفائق الذكاء لمنظمتي إلى البرلمان البريطاني، وهو أول مشروع قانون في العالم لحظر الذكاء الفائق الذكاء. يتناول هذا المشروع بشكل خاص تطوير الذكاء الفائق الذكاء ويمنعه داخل البلاد ويطلب من بريطانيا السعي للحصول على اتفاق دولي لحظره في جميع أنحاء العالم.
هذا الإطار القانوني يسمح للحكومة بمراقبة وتقييد المتطلبات الأساسية للذكاء الفائق الذكاء، مثل قدرات الذكاء الاصطناعي مثل الاختراق. بشكل رئيسي، يوفر هذا إمكانية تحديد وإيقاف تطوير الذكاء الفائق الذكاء قبل أن يقترب أي مشروع خطير، ويسمح للبلد باستخدام مثل هذه المتطلبات لأغراض مشروعة للذكاء الاصطناعي. هذا إطار عملي يجب على الحكومات تقييمه واعتماده، خاصة مع تسريع الجهود الدولية لحظر الذكاء الفائق الذكاء.
لكن ماذا عن وضع الصين؟ إذا تم تطوير الذكاء الفائق الذكاء في أي مكان، فإن كل دولة وكل مواطن معرض للخطر. وهذا يعني أن أي حظر في الولايات المتحدة يجب أن يكون مصحوبًا باتفاقيات دولية تمنع تطوير الذكاء الفائق الذكاء في أي مكان في العالم.
لا يتطلب هذا إنشاء كيان دولي. كل ما نحتاجه هو تحالف قوي من الدول التي حظرت الذكاء الفائق الذكاء داخل بلادها وتضمن عدم تطويره من قبل أي شخص خارج البلاد.
بينما أعلن استقالته في ٨ سبتمبر، كتب جیکوب کاکسون: "لا أشعر أننا على الطريق لمنع سباق عالمي" نحو الذكاء الفائق الذكاء. قد لا نكون كذلك اليوم، لكن يمكننا بسرعة تغيير المسار.
التحرك من أجل حظر دولي لتطوير الذكاء الفائق الذكاء في تزايد. أكثر من ٢٠٠ مشرع من أحزاب مختلفة في بريطانيا وكندا كانوا في المقدمة مع إدراكهم لمخاطر الذكاء الفائق الذكاء كتهديد للأمن الوطني والعالمي. بالإضافة إلى مشروع القانون الجديد في بريطانيا، قال نائب الرئيس، جي دي فانس، هذا الأسبوع لشركات الذكاء الاصطناعي: "إذا كنتم تبنون فرانكشتاين، فتوقفوا." كما أعلن السيناتور برني ساندرز والنائب غريغ كاسار في أوائل سبتمبر أنهم سيقدمون مشروع قانون لحظر تطوير الذكاء الفائق الذكاء ويطالبون باتفاقيات دولية لحظره.
حاليًا، يسمع العديد من المسؤولين الحكوميين وأعضاء الجمهور لأول مرة عن خطر الانقراض الناتج عن الذكاء الفائق الذكاء. وصلت هذه التحذيرات إلى الملايين. الخطوة التالية هي إجراء محدد لمواجهة هذا التهديد للأمن الوطني والعالمي.
هذه لحظة تاريخية ولا يمكننا إهدارها. لدى الحكومات خيار واضح: دعم حظر دولي أو السماح بالتنافس للوصول إلى الذكاء الفائق الذكاء نحو نهايته الكارثية.
اقرأ المزيد: القوانين الجديدة للسفر إلى الصين تثير القلق بين عمالقة التكنولوجيا · وزراء خارجية البرازيل وألمانيا والهند واليابان يطالبون بإصلاح مجلس الأمن التابع للأمم المتحدة
