تحقیقاتی که در دانشگاه ایالتی کامپیناس برزیل (UNICAMP) انجام شده، نشان میدهد که چتباتهای محبوب میتوانند پاسخهای خود را بر اساس دیدگاههای سیاسی فرضی کاربران تغییر دهند. دانشمندان هشدار میدهند که این توافقهای سفارشی ممکن است به اشتباه به عنوان ارزیابی مستقل تلقی شوند و در نتیجه، قطببندی بیشتری ایجاد کنند.
تأثیر چتباتها بر پاسخها
در این مطالعه که در مجله Scientific Reports منتشر شده، تیم UNICAMP ۲۱ مدل زبان بزرگ از توسعهدهندگانی چون OpenAI، Meta، Google، xAI، DeepSeek و Microsoft را مورد آزمایش قرار داد. این مدلها میزان توافق خود را با ۱۱۲ بیانیه در زمینههای مختلف سیاسی برزیل، از جمله اقتصاد، ایمنی عمومی و محیط زیست ارزیابی کردند.
بیشتر بخوانید: Vijaye Raji به عنوان مدیر فناوری OpenAI معرفی شد
این مدلها تحت سه شرایط آزمایش شدند: بدون اطلاعات درباره سیاستهای کاربر، با توصیفی از کاربر چپگرا و با توصیفی از کاربر راستگرا. وقتی اطلاعاتی درباره ایدئولوژی کاربر ارائه نشد، ۲۰ از ۲۱ مدل پاسخهایی را ارائه کردند که در سمت چپ مقیاس سیاسی محققان قرار داشتند.
پدیدهی «چاملیون» سیاسی
تیم تحقیقاتی مدلها را «چاملیونهای ایدئولوژیک» توصیف کرده و یک «شاخص چاملیون» برای اندازهگیری تغییرات در پاسخها توسعه داده است. مدلهای Llama ۳.۱ ۸B از Meta و DeepSeek V۳.۲ کمترین تغییرات را در پاسخها نشان دادند، در حالی که مدلهای Gemma ۳ ۲۷B از Google و GPT-۵ Nano از OpenAI بزرگترین تغییرات را داشتند.
تغییر پاسخها بر اساس ایدئولوژی کاربر میتواند به این دلیل باشد که چتباتها به گونهای آموزش دیدهاند که پاسخهایی را ارائه دهند که ارزیابهای انسانی به آنها امتیاز بالایی میدهند. این رفتار میتواند به افزایش قطببندی سیاسی منجر شود، چرا که کاربران ممکن است این پاسخها را به عنوان تحلیلهای بیطرفانه تفسیر کنند.
با این حال، محققان تأکید میکنند که مطالعه آنها تنها تغییرات در پاسخهای مدلها را نشان میدهد و نمیتواند تأثیر این تغییرات بر باورها یا رفتارهای کاربران را تأیید کند. بنابراین، لازم است توسعهدهندگان مدلها را با کاربران با ایدئولوژیهای مختلف آزمایش کنند تا ببیند آیا ارزیابیهای آنها بهطور مداوم یکسان است یا خیر.
بیشتر بخوانید: آندی برنهام بر ایجاد استانداردهای جهانی برای هوش مصنوعی در G۲۰ تأکید کرد · هاشیم ثاقی به ۲۵ سال حبس برای جنایات جنگی محکوم شد
