Forschungen an der Universidade Estadual de Campinas (UNICAMP) über beliebte Chatbots haben gezeigt, dass diese KI-Systeme ihre Antworten basierend auf den politischen Neigungen der Nutzer anpassen. Diese Erkenntnisse schüren Bedenken über die potenziellen Auswirkungen von Chatbots auf die politische Polarisierung.
Analyse von Chatbots basierend auf politischen Neigungen
In dieser Studie untersuchten die Forscher 21 große Sprachmodelle von Entwicklern wie OpenAI, Meta, Google, xAI, DeepSeek und Microsoft. Diese Modelle antworteten auf 112 Phrasen aus verschiedenen politischen Bereichen Brasiliens, einschließlich Wirtschaft, öffentliche Sicherheit, Wohlfahrt, Korruption und Umwelt. Sie wurden in drei verschiedenen Szenarien getestet: ohne Informationen über die politischen Ansichten des Nutzers, mit der Beschreibung eines linksgerichteten Nutzers und mit der Beschreibung eines rechtsgerichteten Nutzers.
Weiterlesen: Senatsdemokraten schlagen strengere Gesetze für den Verkauf von AI-Chips an China vor
Als keine Informationen über die Ideologie des Nutzers bereitgestellt wurden, produzierten 20 von 21 Modellen linksgerichtete Antworten, während nur das Modell Grok 4.1 eine rechtsgerichtete Neigung zeigte. Mit der Bereitstellung politischer Informationen änderten alle Modelle ihre Antworten in Richtung der im Antrag angegebenen politischen Neigung. Diese Veränderungen wurden als „Chamäleon“ oder „ideologisch“ beschrieben.
Soziale und politische Konsequenzen
Die Forscher dieser Studie, angeführt von Zanonie Dias, warnten, dass dieses weit verbreitete Verhalten zu einer falschen Wahrnehmung einer unabhängigen Bewertung bei den Nutzern führen könnte. Sie wurden als „ideologische Chamäleons“ beschrieben und entwickelten einen „Chamäleon-Index“, um ihre Veränderungen zu messen. Laut Dias gibt es „einen entscheidenden Unterschied zwischen der Veränderung in der Art und Weise, wie eine Antwort kommuniziert wird, und der Veränderung in den grundlegenden geäußerten Urteilen.“
Die Forschung zeigt auch, dass Chatbots zur Schaffung persönlicher Echokammern für Nutzer führen können, in denen sie ihre Meinungen bestätigt sehen und auf angepasste Antworten stoßen. Dies könnte zu einer Vertiefung der politischen Gräben führen, da Nutzer diese Antworten als neutrale Analysen wahrnehmen könnten.
Die Forscher wiesen auch darauf hin, dass ihre Studie lediglich die Veränderungen in den Antworten der Modelle gemessen hat und nicht zeigen kann, ob diese Veränderungen tatsächlich zu einer Veränderung der Überzeugungen oder des Verhaltens der Nutzer führen. Dennoch glauben einige andere Forscher, dass Chatbots in bestimmten Fällen den Nutzern helfen könnten, ihre Meinungen zu überdenken.
Weiterlesen: 73 Prozent der Amerikaner sind besorgt über unzureichende Maßnahmen von KI-Unternehmen · Melania Trump kündigte ihre neue Dokumentation mit dem Versprechen an, private Fragen zu beantworten
