تقرير جديد تم نشره مؤخرًا يستعرض المنافسة بين شركات الذكاء الاصطناعي الكبرى لتطوير الذكاء الاصطناعي القابل للتحسين الذاتي. هذا التقرير الذي أعدته شركة غلادستون AI، يحلل المخاطر والتحديات التي تواجه هذه التكنولوجيا في المستقبل القريب. في الأشهر الأخيرة، حذرت شركات أنثروبيك وأوبن أي من أن الذكاء الاصطناعي قد يصبح قريبًا قادرًا على تحسين نفسه.
المخاطر والتحديات للذكاء الاصطناعي القابل للتحسين الذاتي
هذه النقطة الفاصلة المعروفة باسم 'التحسين الذاتي العائد' أو RSI، قد تعني ظهور قدرات جديدة للذكاء الاصطناعي بسرعة غير مسبوقة. ومع ذلك، فإن ظهور RSI قد يكون خطيرًا جدًا على البشرية وقد يكون علامة على مرحلة يفقد فيها المطورون السيطرة الكاملة على أنظمة الذكاء الاصطناعي.
اقرأ المزيد: رگولاتورهای حریم خصوصی اروپا قوانین جدیدی برای عینکهای هوشمند معرفی کردند
تقرير غلادستون يؤكد أن شركات الذكاء الاصطناعي تعمل بنشاط على أتمتة جميع مراحل تطوير الذكاء الاصطناعي. يشمل ذلك إنتاج أفكار جديدة، وإجراء تجارب لتقييم تلك الأفكار، وتفسير النتائج. يعتقد معظم الباحثين الذين تحدثت معهم غلادستون أن RSI قد يبدأ في المستقبل القريب، خلال ٣ إلى ١٢ شهرًا أخرى.
أهمية التنظيم في تطوير الذكاء الاصطناعي
مديرو غلادستون يحددون هدف هذا التقرير في تعزيز فهم المشرعين لكيفية عمل RSI وبالتالي، زيادة قدرتهم على تنظيم هذه التكنولوجيا. جيريمي هاريس، الرئيس التنفيذي لغلادستون، صرح بأن هدفهم هو تعريف مفهوم التحسين الذاتي العائد بطريقة تمكن الناس من مناقشته بشكل منطقي، خاصة في واشنطن. وقد أشار إلى الجهود القانونية لحظر الذكاء الاصطناعي الفائق الذكاء ودعا إلى التركيز على العمليات التي تحتاج إلى تنظيم.
التقرير يقدم أيضًا نظرة بسيطة على كيفية عمل عملية البحث في الذكاء الاصطناعي داخل الشركات، ويشرح كيف أن هذه الشركات تعمل تدريجيًا على أتمتة هذه العملية. في المرحلة الأولى من تدريب نماذج الذكاء الاصطناعي المعروفة باسم التدريب المسبق، يتركز الجهد على إيجاد طرق لزيادة ذكاء النموذج باستخدام طاقة حسابية أقل.
تستخدم شركات الذكاء الاصطناعي نهج المحفظة لاختبار هذه الأفكار. يخصص الباحثون كمية صغيرة من الطاقة الحسابية لكل فكرة ويستخدمونها لتدريب مجموعة من النماذج. النماذج التي تظهر أداءً موثوقًا أفضل يتم اختيارها لجولة أخرى من التدريب حيث يتم استخدام كميات أكبر من الطاقة الحسابية.
بسبب قيود الطاقة الحسابية، لا تستطيع الشركات اختبار جميع الأفكار الواعدة على نطاقات أكبر. وهذا يعني أنه حتى إذا استطاعت شركات الذكاء الاصطناعي تدريب نموذج قادر على إنتاج أفكار واعدة، فإنه من المهم أن يتم إنتاج بعض الأفكار السيئة في نفس الوقت. إذا كان على الشركات أن تقضي وقتًا وطاقة حسابية كبيرة في تصفية الأفكار الجيدة من السيئة، سيكون من المنطقي أن تظل تعتمد على الباحثين البشريين بحدس صحيح.
بدلاً من ذلك، يمكن لشركات الذكاء الاصطناعي التي تتمتع بإمكانية الوصول إلى طاقة حسابية أكبر اختبار المزيد من الأفكار، وقد يساعدها ذلك في الوصول إلى RSI بشكل أسرع. مع طاقة حسابية أكبر للاختبارات، من المرجح أن تجد الشركات أفكارًا تعتبرها تقرير غلادستون من أندر وأهم الأفكار: الأفكار التي تتحسن أداؤها مع زيادة الطاقة الحسابية، حتى لو بدت في نطاقات أصغر غير ناجحة.
القدرة على تحديد متى يتم العثور على هذه الأفكار، وخاصة ما إذا كان الذكاء الاصطناعي يساعد في العثور عليها أم لا، "جزء حيوي من هذه العملية التي لا يمتلك المشرعون حاليًا أي رؤية لها"، يقول جيريمي هاريس. إحدى الميزات التي تجعل تنظيم RSI صعبًا هي تدريجية هذه العملية. يقول إدوارد هاريس: "هذا أحد الأسباب التي تجعلنا قد وصفناها بدقة بحيث يمكن الإشارة إلى جزء من هذه العملية والقول إن إنسانًا يجب أن يكون هناك."
اقرأ المزيد: أوروبا تتراجع عن المنافسة في مجال الذكاء الاصطناعي المتقدم · Kroger تفصل ثلاثة آلاف موظف إداري بسبب زيادة استخدام الذكاء الاصطناعي
