KI-Manipulation: Die Demokratie am Scheideweg

Ein Wendepunkt im politischen Wahlkampf

Diese Woche (5. Dezember 2025) erschienen in Fachzeitschriften und der Technologieberichterstattung zwei große, peer-reviewte Studien und eine Reihe von Folgeanalysen mit der gleichen beunruhigenden Botschaft: Kurze Gespräche mit KI-Chatbots können Wähler umstimmen. Die in Nature und Science veröffentlichten Arbeiten, die von Teams unter der Leitung von Forschern der Cornell University und des MIT durchgeführt wurden, berichten, dass ein einziger kurzer Dialog mit einem voreingenommenen Chatbot die öffentliche Meinung in einem Maße verschob, das die typischen Effekte von Fernsehwerbung oder digitaler politischer Werbung übersteigt. Unter bestimmten experimentellen Bedingungen veränderten auf Überzeugung optimierte Modelle die Einstellungen um zwei Dutzend Prozentpunkte oder mehr; in realen Umfragen lagen die medianen Verschiebungen bei mehreren Punkten, manchmal bis zu zehn.

Diese Größenordnungen sind von Bedeutung, da moderne Wahlen oft durch knappe Mehrheiten entschieden werden. Sie sind von Bedeutung, weil die Modelle, die die Meinung am stärksten beeinflussten, auch immer wieder jene Modelle waren, die die ungenauesten Behauptungen aufstellten. Und sie sind von Bedeutung, weil die Technologie zur Automatisierung einer individuellen Überzeugungskampagne bereits existiert: kostengünstige Rechenleistung, Open-Weight-Modelle, Sprach- und Videosynthese sowie Distributionskanäle in Mainstream-Apps und privaten Messenger-Diensten. Kurz gesagt, so die Forscher, ist die Ära, in der KI Wähler systematisch und in großem Maßstab überzeugen kann, angebrochen – und wir fangen gerade erst an zu begreifen, was das bedeutet.

Neue Experimente, klare Muster

Die beiden Vorzeigestudien verwendeten unterschiedliche Designs, kamen aber zu übereinstimmenden Mustern. In einer Studie führten Forscher zwei Monate vor der US-Präsidentschaftswahl 2024 kontrollierte Gespräche mit mehr als 2.300 US-Teilnehmern. Chatbots, die explizit darauf zugeschnitten waren, für einen der Top-Kandidaten zu werben, bewegten einige Wähler um mehrere Punkte in Richtung des bevorzugten Kandidaten; in den US-Tests ließen sich Trump-nahe Teilnehmer um etwa 3,9 Punkte in Richtung eines Harris-unterstützenden Bots beeinflussen, während die gegenseitige Bewegung etwa 2,3 Punkte betrug. In anderen nationalen Tests – in Kanada und Polen – waren die Effekte größer, wobei sich einige Oppositionswähler um etwa 10 Punkte bewegten.

Eine ergänzende, wesentlich umfangreichere Analyse testete 19 Sprachmodelle mit fast 77.000 Teilnehmern aus dem Vereinigten Königreich anhand von Hunderten von Fragen zu Abstimmungsthemen. Die aggressivste Überzeugungs-Pipeline – das Modell anweisen, Fakten zusammenzutragen, und es dann mit Überzeugungsdialogen feintunen – erzeugte die größten Einstellungsänderungen. Ein auf Überzeugung optimierter Prototyp bewirkte unter Laborbedingungen Verschiebungen im Bereich von 25 Punkten auf einer 100-Punkte-Zustimmungsskala – ein Ausmaß, das bei einer Reproduktion auf Bevölkerungsebene außergewöhnlich wäre.

Wie KI überzeugt – und warum sie lügen kann

Die Studien identifizieren einen technischen Mechanismus hinter diesem Effekt: konversationelle Anpassung gepaart mit argumentativer Dichte. Im Gegensatz zu einer Anzeige, die einige Sekunden lang Bilder und Slogans zeigt, kann ein Chatbot die Argumentation eines Nutzers lesen, Einwände zerpflücken und gezielte Gegenargumente liefern – oft unter Anführung von Fakten oder Statistiken. Diese interaktive Argumentation in Echtzeit ähnelt stark einem geschulten Wahlhelfer oder Debattierer, was erklärt, warum diese Bots statische Anzeigen in kontrollierten Umgebungen übertreffen können.

Es gibt jedoch einen Kompromiss. Die Teams beobachteten durchweg, dass die Überzeugungskraft mit einem Rückgang der faktischen Genauigkeit korrelierte. Wenn Modelle darauf getrimmt wurden, überzeugender zu sein, begannen sie häufiger, minderwertige Beweise und regelrechte Erfindungen heranzuziehen. Eine plausible technische Interpretation ist, dass die Modelle hochwertige, gut dokumentierte Beweise aufbrauchen und dann auf schwächeres oder spekulatives Material zurückgreifen; eine andere ist, dass die Optimierung auf Überzeugung rhetorische Eloquenz über Wahrhaftigkeit stellt. So oder so ist das Ergebnis eine Klasse von Werkzeugen, deren wirkungsvollste Ausgaben auch am wahrscheinlichsten in die Irre führen.

Asymmetrien und Grenzen in der realen Welt

Wichtige Vorbehalte dämpfen die Schlagzeilen-Zahlen. Die Experimente wurden in der Regel in konzentrierten, vorgegebenen Settings durchgeführt, in denen Freiwillige minutenlang einen fokussierten politischen Dialog mit einem Bot führten – nicht in der ungeordneten Aufmerksamkeitsökonomie von Feeds, Freundesgruppen und flüchtigen Klicks. Forscher und Kommentatoren weisen darauf hin, dass Laboreffekte das übertreffen könnten, was passiert, wenn Menschen KI beiläufig in ihrem täglichen Leben begegnen.

Dennoch legen die Studien zwei asymmetrische Risiken offen. Erstens sind Zugang und Einsatz ungleich verteilt. Kampagnen, wohlhabende Akteure und ausländische Staaten werden wahrscheinlich früher Zugang zu den überzeugendsten Toolchains erhalten, was ungleiche Vorteile schaffen könnte. Zweitens können die Voreingenommenheiten der Modelle parteiische Informationsumgebungen widerspiegeln: In den veröffentlichten Datensätzen fanden die Teams heraus, dass Bots, die für rechtsgerichtete Positionen warben, mehr Ungenauigkeiten produzierten, wahrscheinlich weil die Trainingsdaten selbst asymmetrische Fehlinformationen enthalten.

Ökonomie und Skalierung: Wie billig könnte Überzeugung werden?

Eine der alarmierenderen Berechnungen in jüngsten politischen Kommentaren betrifft die Kosten der Skalierung. Unter Verwendung öffentlicher API-Preise und konservativer Annahmen (über Gesprächslänge und Token-Kosten) zeigten Analysten, dass ein Akteur zig Millionen Wähler mit personalisierten Chat-Gesprächen für weniger als eine Million Dollar erreichen könnte. Diese Rechnung ist zwangsläufig nur eine Annäherung – Modellpreise, Bandbreite, Sprachsynthese und die Bereitstellung über verschiedene Kanäle erhöhen die Komplexität –, aber sie macht deutlich, dass automatisierte Eins-zu-eins-Überzeugung bereits im Budget gut finanzierter Kampagnen, PACs oder ausländischer Einflussoperationen liegt.

Politische Reaktionen: Stückwerk und Lücken

Die regulatorischen Ansätze sind uneinheitlich. Das KI-Gesetz der Europäischen Union (AI Act) behandelt wahlbezogene Überzeugung explizit als Hochrisiko-Anwendung und legt Verpflichtungen für Systeme fest, die darauf ausgelegt sind, das Wahlverhalten zu beeinflussen. Im Gegensatz dazu bleibt die US-Bundespolitik fragmentiert: Datenschutzgesetze, Offenlegungspflichten für Rundfunk und eine Handvoll einzelstaatlicher Gesetze konzentrieren sich auf Deepfakes oder Anzeigentransparenz, decken aber konversationelle Überzeugung über Plattformen und Offline-Kanäle hinweg nicht umfassend ab. Die Durchsetzungslast in den USA liegt weitgehend bei privaten Plattformen; diese Unternehmen haben unterschiedliche Richtlinien und Anreize, und plattformübergreifende oder Open-Source-Toolchains liegen außerhalb ihrer Reichweite.

Forscher und Politikanalysten schlagen nun eine mehrschichtige Reaktion vor: (1) technische Standards und überprüfbare Herkunftsnachweise für politische Botschaften; (2) Beschränkungen oder strengere Kontrollen für die Bereitstellung großer Rechenkapazitäten, die für umfangreiche Überzeugungskampagnen genutzt werden können; (3) Offenlegungspflichten für Systeme, die darauf ausgelegt sind, politische Ansichten zu beeinflussen; und (4) internationale Koordination – da grenzüberschreitende Kampagnen von Rechtsordnungen mit schwacher Aufsicht aus gesteuert werden können.

Die Debatte: Alarmismus versus Nuancierung

Forscher, die die Überzeugungsexperimente durchgeführt haben, entgegnen, dass beide Punkte miteinander vereinbar sind: Die Technologie ist in eng kontrollierten Interaktionen nachweislich überzeugend und verdient daher dringende Aufmerksamkeit; gleichzeitig wird die reale Welt die tatsächliche Nutzung der Technologien prägen, und es gibt machbare Interventionsmöglichkeiten. Die politische Herausforderung besteht darin, die Kosten und Hürden für verdeckte, massenhafte Überzeugung zu erhöhen, während gutartige Nutzungen ermöglicht werden: Kandidaten-Chatbots, die politische Programme erklären, Bürgerassistenten, die Abstimmungsvorlagen zusammenfassen, oder Journalismus-Tools, die den Zugang zu Informationen erweitern.

Was Wahlkampf-Teams, Plattformen und Regulierungsbehörden jetzt tun können

• Herkunftsnachweise und Offenlegung für politische Botschaften fordern, einschließlich konversationeller Agenten, die auf bürgerschaftliche Themen abzielen.
• Unabhängige Audits von Modellen und die Durchsetzung von Plattformregeln für politisch ausgerichtete Automatisierung vorschreiben.
• Den außerbörslichen Zugang zu den größten Rechenressourcen für Inferenz beschränken, wenn diese für politische Überzeugungskampagnen genutzt werden, gekoppelt mit Transparenz in den GPU-Leasingmärkten.
• Die Überwachung im öffentlichen Interesse und offene Datensätze finanzieren, damit unabhängige Forscher Behauptungen über Überzeugungseffekte replizieren und bewerten können.
• Die digitale Medienkompetenz und öffentliche Informationskanäle ausbauen, die Wählern helfen, Behauptungen zu prüfen und KI-basierte Fakten gegenzuchecken.

Wohin sich die Beweislage als Nächstes entwickeln muss

Zwei Forschungsprioritäten sollten die Politik leiten: erstens replizierte Feldexperimente, die Effekte in natürlichen Umgebungen messen (nicht nur in konzentrierten Labordialogen); zweitens Mess- und Überwachungssysteme, die koordinierte Überzeugungskampagnen über verschiedene Modalitäten und Plattformen hinweg erkennen. Ohne einen besseren, prüffähigen Datenzugang – zu Anzeigenbibliotheken, Plattformprotokollen und Modellherkunft – wird die Politik Regeln mit auf dem Rücken gebundenen Händen entwerfen.

Die jüngsten Studien sind ein Weckruf, der weder eine Apokalypse noch ein Allheilmittel darstellt. KI-Systeme können Meinungen bereits auf kraftvolle Weise beeinflussen, und sie tun dies kostengünstiger und flexibler als frühere digitale Überzeugungswerkzeuge. Gleichzeitig hängen die Ergebnisse von menschlichen Entscheidungen ab – welche Akteure die Werkzeuge einsetzen, wie Modelle abgestimmt werden, welche Regeln und Standards ihre Nutzung regeln und ob die Zivilgesellschaft die Überwachungsinfrastruktur aufbauen kann, die zur Erkennung von Missbrauch erforderlich ist. Die entscheidende Frage für Demokratien ist, ob Institutionen jetzt handeln, um diese Entscheidungen zu gestalten, oder ob die nächste Wahl das Labor sein wird, in dem die Antwort in Stimmen und Zweifeln geschrieben wird.

Quellen

• Nature (Forschungsarbeit über Chatbot-Überzeugung)
• Science (Forschungsarbeit über auf Überzeugung optimierte LLMs)
• Cornell University (Experimentelle Teams zu KI und Überzeugung)
• Massachusetts Institute of Technology (David Rand und Mitarbeiter)
• Knight First Amendment Institute (Analyse: "Don't Panic (Yet)")