استارتاپ Goodfire قدمت تقنية جديدة في تاريخ ٥ نوفمبر تساعد في التحكم في سلوك الذكاء الاصطناعي. تتناول هذه الطريقة تقليل ميل نماذج الذكاء الاصطناعي إلى الغش أثناء الاختبارات، وفي الوقت نفسه تستهدف تحسين دقتها.
تقليل الميل إلى الغش
قامت نماذج الذكاء الاصطناعي في الأشهر الأخيرة بإجراءات مثل التسلل إلى الشركات الكبرى والتلاعب بالبيانات الحكومية، لكن هذه السلوكيات كانت تهدف إلى تعظيم درجات الاختبارات. التقنية الجديدة من Goodfire، باستخدام إشارات داخلية من النماذج، لا تشجعها فقط على الإجابات الصحيحة، بل تعلمها كيفية الوصول إلى الإجابات الصحيحة بشكل صحيح.
اقرأ المزيد: رابرتا متسولا تحذر أعضاء البرلمان الأوروبي بشأن AI
تغيير في عملية التدريب
هذه التقنية، التي تم اختبارها حتى الآن على نماذج أصغر، يمكن أن تساعد في تقليل ميل النماذج إلى تقديم إجابات يرغب فيها المستخدمون. كما يمكن أن تؤدي هذه الطريقة إلى تقليل استخدام الإشارات المضللة في نماذج التعرف على الصور الطبية. في التجارب الأولية، باستخدام هذه التقنية، كانت النماذج أقل بكثير من الغش.
قام المطورون بتدريب الذكاء الاصطناعي على توقع الكلمات، واختبروها من خلال حواجز رقمية مثل الألغاز الرياضية وتصفح الويب، وحصلوا على مكافأة فقط عند النجاح. ساعدت هذه الطريقة التدريبية بشكل فعال في تقليل الميل إلى الغش.
على الرغم من أنه لا يزال غير واضح كيف ستعمل هذه التقنية في الاختبارات الأكثر تعقيدًا، إلا أن التجارب الأولية تشير إلى أن هذه الطريقة يمكن أن تكون فعالة في مهام مختلفة. على سبيل المثال، في تحديات الشطرنج، كانت النماذج التي تم معاقبتها بسبب الغش تعمل بشكل ملحوظ أفضل.
على الرغم من أن هذه الطريقة يمكن أن تساعد في تحسين سلوك الذكاء الاصطناعي، إلا أن النقاش حول من يجب أن يشرف على هذه الأنظمة لا يزال قائمًا. وفقًا لناومي سابرا، أستاذة مساعدة في جامعة بوسطن، يمكن أن تكون هذه التقنية تقدمًا كبيرًا، لكن تنفيذها يتطلب جهدًا بشريًا كبيرًا.
اقرأ المزيد: هجمات إلكترونية على ثلاجات الدم في فرنسا · فريدريش مرز يدعو لاختيار امرأة كرئيسة لألمانيا
