تحقیقات انجام شده در دانشگاه ایالتی کمپیناس (UNICAMP) بر روی چتباتهای محبوب نشان داد که این سیستمهای هوش مصنوعی پاسخهای خود را بر اساس گرایشات سیاسی کاربران تغییر میدهند. این یافتهها به نگرانیها درباره تأثیرات بالقوه چتباتها بر روی قطبی شدن سیاسی دامن میزند.
تجزیه و تحلیل چتباتها بر اساس گرایشات سیاسی
در این مطالعه، محققان ۲۱ مدل زبانی بزرگ از توسعهدهندگانی همچون OpenAI، Meta، Google، xAI، DeepSeek و Microsoft را مورد بررسی قرار دادند. این مدلها به ۱۱۲ عبارت در زمینههای مختلف سیاسی برزیل، از جمله اقتصاد، امنیت عمومی، رفاه، فساد و محیط زیست، پاسخ دادند. آنها در سه وضعیت مختلف آزمایش شدند: بدون اطلاعات درباره سیاستهای کاربر، با توصیف کاربر چپگرا و با توصیف کاربر راستگرا.
بیشتر بخوانید: دموکراتهای سنا قوانین سختگیرانهتری برای فروش تراشههای AI به چین پیشنهاد میکنند
زمانی که اطلاعاتی درباره ایدئولوژی کاربر ارائه نشد، ۲۰ از ۲۱ مدل پاسخهایی چپگرا تولید کردند، در حالی که تنها مدل Grok ۴.۱ به سمت راست متمایل شد. با ارائه اطلاعات سیاسی، همه مدلها پاسخهای خود را به سمت گرایش سیاسی مشخصشده در درخواست تغییر دادند. این تغییرات به نام «چاملیون» یا «ایدهئولوژیک» توصیف شد.
پیامدهای اجتماعی و سیاسی
محققان این مطالعه، به رهبری زانونی دیاس، هشدار دادند که این رفتار گسترده میتواند باعث ایجاد تصور نادرست از ارزیابی مستقل در کاربران شود. آنها به عنوان «چاملیونهای ایدئولوژیک» توصیف شدند و یک «شاخص چاملیون» برای اندازهگیری تغییرات آنها توسعه دادند. به گفته دیاس، "تفاوت کلیدی بین تغییر در نحوه ارتباط یک پاسخ و تغییر در قضاوتهای اساسی ابراز شده وجود دارد."
تحقیقات همچنین نشان میدهد که چتباتها میتوانند به ایجاد اتاقهای پژواک شخصی برای کاربران منجر شوند، جایی که آنها میتوانند نظرات خود را تأیید کنند و با پاسخهای تطبیقیافته مواجه شوند. این امر میتواند منجر به عمیقتر شدن شکافهای سیاسی شود، زیرا کاربران ممکن است این پاسخها را به عنوان تحلیلهای بیطرفانه تلقی کنند.
محققان همچنین به این نکته اشاره کردند که مطالعه آنها تنها تغییرات در پاسخهای مدلها را اندازهگیری کرد و نمیتواند نشان دهد که آیا این تغییرات واقعاً منجر به تغییر در عقاید یا رفتار کاربران میشود. با این حال، برخی از محققان دیگر بر این باورند که چتباتها ممکن است در برخی مواقع به کاربران کمک کنند تا نظرات خود را بازنگری کنند.
بیشتر بخوانید: ۷۳ درصد آمریکاییها نگران ناکافی بودن اقدامات شرکتهای هوش مصنوعی هستند · ملانیا ترامپ از مستند جدید خود با وعده پاسخ به سوالات خصوصی خبر داد
