Ein internationales Forschungsteam warnt vor koordinierten Attacken von sogenannten KI-Schwärmen. Die würden die bisherigen "Copy-and-Paste-Bots" im Internet ablösen, um Einfluss auf politische Entscheidungen zu nehmen. Dabei handle es sich um "Flotten" von KI-gesteuerten Personas, so die Forschenden. Diese könnten sich in Echtzeit anpassen, Gruppen infiltrieren und in großem Umfang den Anschein einer einheitlichen Meinung erwecken. So entstünde eine Art Chor aus nur scheinbar unabhängigen Stimmen, der die Illusion schaffe, dass es einen breiten öffentlichen Konsens zu einem Thema geben würde. Tatsächlich handle es sich aber nur um Desinformation.

Tiefgreifende kulturelle Veränderungen befürchtet

Diese KI-Schwärme ließen sich durch die Verschmelzung großer KI-Sprachmodelle mit sogenannten Multiagentensystemen erzeugen, beschreiben die Forschenden in ihrer Analyse. Sie könnten soziale Dynamiken so authentisch imitieren, dass sie kaum mehr von echten Menschen zu unterscheiden seien. Und das wiederum bedrohe den demokratischen Diskurs, denn KI-Schwärme könnten falsche Tatsachenbehauptungen verfestigen und Konsens vortäuschen.

Dieser "künstliche Konsens" könne dann wiederum Überzeugungen und Normen in einer Gesellschaft nachhaltig beeinflussen. Das passiere selbst dann, wenn einzelne Behauptungen umstritten seien. Die Forschenden befürchten, dass dieser Einfluss tiefgreifende kulturelle Veränderungen bewirken könnte und sich auch Sprache, Symbole und die Identität einer Gemeinschaft auf subtile Weise wandeln würden. Wenn einzelne Akteure Tausende von KI-generierten Profilen kontrollieren könnten, gehe die Gefahr weit über Fake News hinaus, so die Bilanz des Forschungsteams. Dann sei die Grundlage des demokratischen Diskurses bedroht.

KI-Schwärme beeinflussen auch KI-Plattformen

Wie weit das gehen kann, zeigt ein weiteres Problem, auf das die Forschenden hinweisen. Denn diese schädlichen KI-Schwärme könnten auch die Trainingsdaten von regulärer künstlicher Intelligenz beeinflussen, da sie das Internet mit gefälschten Behauptungen überfluten. So würden sie nicht nur den Diskurs in sozialen Netzwerken beeinflussen, sondern auch etablierte KI-Plattformen. Das Forschungsteam macht deutlich, dass es sich bei den KI-Schwärmen nicht nur um eine theoretische Bedrohung handelt. Tatsächlich zeigten Analysen, dass solche Taktiken bereits angewendet würden.

Deshalb müsse das Phänomen intensiv untersucht werden. Und auch Akteurinnen und Akteure im digitalen Raum müssten reagieren: Statt einzelne Beiträge zu moderieren, raten die Forschenden zu Schutzmaßnahmen, die koordiniertes Verhalten und die Herkunft der Inhalte verfolgen. Analysetools sollten unter anderem statistisch unwahrscheinliche Muster von Koordinierung aufdecken, Verifizierungsoptionen anbieten und Hinweise auf KI-Einflussnahme an Beobachtungszentren weitergeben. Außerdem sollte sich das finanziell nicht lohnen, so das Forschungsteam, und gefälschte Interaktionen deshalb auch nicht monetarisiert werden.

Links/Studien

Schroeder, Daniel Thilo et al.: How malicious AI swarms can threaten democracy. Science 391, 354-357 (2026). DOI: 10.1126/science.adz1697.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke