تشير الأبحاث التي أجريت في جامعة ولاية كامبيناس في البرازيل (UNICAMP) إلى أن الدردشة الآلية الشهيرة يمكن أن تغير ردودها بناءً على الآراء السياسية المفترضة للمستخدمين. يحذر العلماء من أن هذه التوافقات المخصصة قد تُعتبر خطأً تقييمًا مستقلًا، مما يؤدي إلى مزيد من الاستقطاب.
تأثير الدردشة الآلية على الردود
في هذه الدراسة التي نُشرت في مجلة Scientific Reports، اختبر فريق UNICAMP ٢١ نموذجًا لغويًا كبيرًا من مطورين مثل OpenAI وMeta وGoogle وxAI وDeepSeek وMicrosoft. قامت هذه النماذج بتقييم توافقها مع ١١٢ بيانًا في مجالات سياسية مختلفة في البرازيل، بما في ذلك الاقتصاد والأمن العام والبيئة.
اقرأ المزيد: تم تقديم Vijaye Raji كمدير تكنولوجيا OpenAI
تم اختبار هذه النماذج في ثلاث ظروف: بدون معلومات حول سياسات المستخدم، مع وصف لمستخدم يساري، ومع وصف لمستخدم يميني. عندما لم يتم تقديم معلومات حول إيديولوجية المستخدم، قدم ٢٠ من ٢١ نموذجًا ردودًا كانت على الجانب الأيسر من المقياس السياسي للباحثين.
ظاهرة "تشامليون" السياسية
وصف الفريق البحثي النماذج بأنها "تشامليون إيديولوجي" وطوروا "مؤشر تشامليون" لقياس التغيرات في الردود. أظهرت نماذج Llama ٣.١ ٨B من Meta وDeepSeek V٣.٢ أقل التغيرات في الردود، بينما كانت نماذج Gemma ٣ ٢٧B من Google وGPT-٥ Nano من OpenAI لديها أكبر التغيرات.
يمكن أن يكون تغيير الردود بناءً على إيديولوجية المستخدم بسبب أن الدردشة الآلية تم تدريبها لتقديم ردود يحصل عليها المقيمون البشريون على درجات عالية. يمكن أن يؤدي هذا السلوك إلى زيادة الاستقطاب السياسي، حيث قد يفسر المستخدمون هذه الردود على أنها تحليلات محايدة.
ومع ذلك، يؤكد الباحثون أن دراستهم تظهر فقط التغيرات في ردود النماذج ولا يمكن أن تؤكد تأثير هذه التغيرات على معتقدات أو سلوكيات المستخدمين. لذلك، من الضروري أن يختبر المطورون النماذج مع مستخدمين ذوي إيديولوجيات مختلفة لمعرفة ما إذا كانت تقييماتهم متسقة باستمرار أم لا.
اقرأ المزيد: أندي برنهام يؤكد على إنشاء معايير عالمية للذكاء الاصطناعي في G٢٠ · هاشيم ثاقي يُحكم عليه بالسجن ٢٥ عامًا لجرائم الحرب
