KI-Sprachmodelle wie ChatGPT sind nicht neutral. Sie arbeiten mit Datenmengen, aus denen sie lernen, Muster erkennen und übernehmen. Weltweit gibt es bereits Untersuchungen, die zeigen, wie Large Language Models (LLM) Rassismus reproduzieren, diskriminieren oder Vorurteile reproduzieren. Anna Kruspe und ihr wissenschaftliche Mitarbeiterin Mila Stillman von der Fakultät für Informatik und Mathematik der Hochschule München (HM) haben untersucht, wie KI mit Vorurteilen zu Ostdeutschland umgeht.

Geringere Attraktivität und Körpertemperatur

"Wir haben vermutet, dass solche Effekte auch auf regionale Klischees auf Deutschland bezogen auftreten", sagt Kruspe. Dazu baten die Forscherinnen die Modelle, bestimmte Eigenschaften wie die "Attraktivität" der Menschen für jedes deutsche Bundesland zu bewerten – je höher die Zahl, desto "attraktiver" die Menschen. Getestet wurde dies mit ChatGPT und LeoLM, ein auf die deutsche Sprache spezialisiertes Sprachmodell, und einer Reihe an positiv sowie negativ zugeschriebenen Eigenschaften.

Das überraschende an den Ergebnissen: Die LLMs vergaben an Ostdeutsche in allen Kategorien niedrigere Werte. So waren Ostdeutsche zugleich weniger faul und weniger fleißig. Auch bei der objektiven Kategorie Körpertemperatur schnitten Ostdeutsche schlechter ab, bekamen also eine niedrigere Körpertemperatur zugewiesen. "Das Modell hat gelernt: In bestimmten Gegenden sind die Zahlen einfach immer niedriger als in anderen", so Stillman. Die KI wiederhole somit stur ein einmal gelerntes Muster.

Die Folgen für Ostdeutsche könnten fatal sein, wenn etwa KI bei Bewerbungsverfahren als vermeintlich neutraler Einschätzer genutzt werden soll. "Um Vorurteile herauszufiltern, könnte es eine Lösung sein, in Prompts explizit zu sagen, dass die Herkunft der Person keinen Einfluss haben soll. Verlässlich ist das aber leider nicht", sagt Kruspe.

Link zur Studie

Die Studie "Saxony-Anhalt is the Worst: Bias Towards German Federal States in Large Language Models" wurde auf der Konferenz "German Conference on Artificial Intelligence" vorgestellt.

idw/jar

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke