Die Geschichte der psychologischen Kriegsführung und politischen Einflussnahme mit KI

Erstfassung 29. Oktober 2026, zuletzt geändert am 29. Oktober 2026 · Andreas Stockter

Psychologische Kriegsführung ist der Versuch, einen Gegner nicht über seinen Körper, sondern über seinen Kopf zu besiegen: Soldaten sollen aufgeben, statt zu kämpfen, Bürger an ihrer Regierung zweifeln, Verbündete am Bündnis. Der amerikanische Fachmann Paul Linebarger, der sie im Zweiten Weltkrieg selbst betrieben hatte, fasste sie 1948 als den Einsatz von Propaganda gegen einen Feind, ergänzt um militärische, wirtschaftliche oder politische Maßnahmen, soweit die Propaganda sie braucht.¹ Politische Einflussnahme ist dasselbe Handwerk ohne Krieg: Ein Staat, eine Partei oder eine Firma versucht, die Meinungen, Wahlen und Entscheidungen in einem anderen Land oder im eigenen zu lenken, und zwar so, dass die Gelenkten den Lenker nicht sehen. Beides ist so alt wie die Politik. Neu ist in jedem Jahrhundert nur das Werkzeug, und dieser Text erzählt, wie aus dem Flugblatt, das ein Ballon über die Front trug, eine Maschine wurde, die selbst schreibt, selbst Konten führt und, wie Versuche aus dem Jahr 2025 zeigen, im Gespräch überzeugender argumentiert als die meisten Menschen.

Wie die Geschichte der KI, die Geschichte der KI in Sicherheit und Verteidigung, die Geschichte des Internets und die Geschichte der Demokratisierung folgt dieser Text einer Kette: Jede Epoche löst einen Engpass, den die vorherige offen gelassen hat, und schafft dabei den nächsten. Hier hat der Engpass seit dem ersten Flugblatt dieselbe Form: Wer beeinflussen will, braucht Reichweite, und er braucht Glaubwürdigkeit, und beides verträgt sich schlecht. Was viele erreicht, erkennt man als Propaganda; was glaubwürdig ist, weil es aus der Nachbarschaft zu kommen scheint, erreicht wenige und braucht viele Hände. Erst fehlte die Reichweite, dann die Glaubwürdigkeit, dann die Geduld, dann das Personal, dann die Sprache, dann die Wirkung, zuletzt die Verbreitung, und mit jeder Lösung brauchte es weniger Menschen für mehr Stimmen (Abbildung 1). Jeder Fachbegriff wird an der Stelle fett gesetzt, an der er erklärt wird, und erst danach verwendet. Ein Glossar listet alle Begriffe alphabetisch.

Inhalt: 1 Flugblätter und Bürokratien · 2 Äther und Farben der Lüge · 3 Sender, Ballons, aktive Maßnahmen · 4 Netz und Sockenpuppe · 5 Trollfabrik, Bot, Profil · 6 Regeln, Maßstäbe, Fälschung · 7 Die Maschine schreibt · 8 Überzeugen, Agenten, offene Frage · Kette · Zeitleiste · Weiterlesen · Quellen

1. Flugblätter und Bürokratien: Der Erste Weltkrieg (1914–1932)

Das Problem. Der Krieg von 1914 war der erste, in dem ganze Gesellschaften kämpften. Millionen Soldaten mussten Jahre in Gräben aushalten, Millionen Arbeiterinnen in Fabriken, und die neutralen Länder, allen voran die Vereinigten Staaten, entschieden mit ihren Krediten und am Ende mit ihren Truppen, wer gewann. Keine Regierung konnte das befehlen; sie musste dafür werben. Die Mittel waren alt, Zeitung, Plakat, Rede, aber der Maßstab war neu, und zum ersten Mal richteten Staaten dafür eigene Behörden ein. Propaganda nannte der amerikanische Politikwissenschaftler Harold Lasswell 1927, was sie dort taten: die Steuerung kollektiver Einstellungen durch den Umgang mit bedeutsamen Symbolen, mit Geschichten, Gerüchten, Berichten und Bildern.²

Die Behörden. Großbritannien richtete im September 1914 im Londoner Wellington House ein Kriegspropagandabüro unter dem Politiker Charles Masterman ein, so geheim, dass nicht einmal das Parlament davon wusste; es schrieb, druckte und verteilte vor allem für das neutrale Ausland, und sein wichtigstes Publikum saß in Amerika.³ Als die Vereinigten Staaten im April 1917 selbst in den Krieg eintraten, schuf Präsident Wilson am 13. April mit der Anordnung 2594 das Committee on Public Information unter dem Journalisten George Creel. Dessen bekannteste Einrichtung waren die Four Minute Men: 75.000 freiwillige Redner in 5.200 Gemeinden, die in Kinos, Kirchen und Vereinen vier Minuten lang die Kriegsziele erklärten, nach dem Abschlussbericht des Komitees in 755.190 Reden.⁴ Die Methode war die einer Werbeagentur, und sie arbeitete mit Leuten aus der Werbung.

Das Flugblatt. Die dritte Behörde richtete sich gegen den Feind selbst. Im Februar 1918 wurde der Zeitungsverleger Lord Northcliffe Direktor für Propaganda in Feindesländern, mit Sitz im Crewe House in London. Feindpropaganda soll nicht die eigenen Leute bei der Stange halten, sondern die des Gegners zermürben: Sie erzählt den Soldaten, dass sie verlieren, dass ihre Offiziere sie belügen, dass die Gefangenen gut zu essen bekommen. Ihr Träger war das Flugblatt, und weil Flugzeuge dafür zu knapp waren, trugen Ballons es über die Front, fast 2.000 je Woche. Nach den Zahlen, die Northcliffes Stellvertreter Campbell Stuart 1920 veröffentlichte, gingen im Juni 1918 knapp 1,7 Millionen Flugblätter über und hinter den deutschen Linien nieder, im August fast vier Millionen, im Oktober 5,4 Millionen.⁵ Die deutsche Heeresleitung zählte mit, weil die Soldaten die Blätter abliefern mussten: Stuart zitiert Hindenburgs Angaben von 84.000 abgelieferten Flugblättern im Mai, 120.000 im Juni und 300.000 im Juli 1918, und Hindenburg selbst sprach von zehntausend vergifteten Pfeilen täglich im Juli.⁵ Mit den späteren Medien verschwand das Flugblatt nicht: Im Oktober 2023 warf das israelische Militär über Gaza-Stadt Flugblätter ab, die die Bewohner aufforderten, sofort nach Süden zu fliehen, und im Juli 2024 Tausende weitere.⁶

Die Legende. Was die Flugblätter wirklich bewirkten, ist nie gemessen worden; dass sie wirkten, glaubten nach dem Krieg ausgerechnet die Besiegten am festesten. Erich Ludendorff schrieb in seinen Erinnerungen von 1919, Deutschland habe in den neutralen Ländern unter einer moralischen Blockade gestanden und das eigene Volk sei von der feindlichen Propaganda gebannt gewesen wie das Kaninchen von der Schlange.⁷ Die Erklärung passte zur Legende vom Dolchstoß, nach der das Heer im Feld unbesiegt geblieben und von der Heimat verraten worden sei, und Adolf Hitler widmete der Propaganda in Mein Kampf zwei Kapitel, in denen er behauptete, die gute britische und die schlechte deutsche Propaganda hätten den Krieg entschieden. Historiker halten das für falsch; die deutsche Propaganda war in vielem weiter als die britische.⁸ Aber die Lehre, die daraus gezogen wurde, war folgenreicher als die Wahrheit: Wer den nächsten Krieg gewinnen wollte, musste ihn auch in den Köpfen führen.

Die Wissenschaft. In Amerika zog man dieselbe Lehre, nur nüchterner. Lasswell schrieb seine Doktorarbeit über die Propaganda Technique in the World War, 1927 als Buch erschienen, und machte die Propaganda zum Gegenstand der Sozialwissenschaft.² Edward Bernays, ein Neffe Sigmund Freuds, der im Komitee Creels gearbeitet hatte, übertrug das Handwerk auf Firmen und Parteien und schrieb 1928 ein Buch mit dem schlichten Titel Propaganda. Es beginnt mit dem Satz, die bewusste und intelligente Manipulation der organisierten Gewohnheiten und Meinungen der Massen sei ein wichtiger Bestandteil der demokratischen Gesellschaft, und die Leute, die diesen verborgenen Mechanismus bedienten, bildeten eine unsichtbare Regierung, die die wahre herrschende Macht des Landes sei.⁹ 1947 nannte er dasselbe in einem Aufsatz die Konstruktion von Zustimmung, The Engineering of Consent.⁹ Der Satz von der unsichtbaren Regierung war als Lob gemeint. Er beschreibt bis heute genau, was eine Einflussoperation will.

Selbst ausprobieren. Die Quellen dieser Epoche sind frei im Netz. Campbell Stuarts Secrets of Crewe House von 1920 steht bei Project Gutenberg (Nummer 77798), mit den Monatszahlen der Flugblätter und Abbildungen der Texte; Bernays’ Propaganda ebenfalls (Nummer 78634), und wer die ersten zwei Seiten liest, liest das Programm jeder Werbe- und Einflussagentur seither. Der Abschlussbericht des Committee on Public Information liegt im Internet Archive. Wer eines der Flugblätter von 1918 neben einen Beitrag einer heutigen Einflussoperation legt, erkennt dieselben drei Botschaften: Ihr verliert, eure Führer lügen, auf der anderen Seite geht es euch besser.

Der Engpass. 1918 hatten Staaten Behörden für die Propaganda, Wissenschaftler, die sie untersuchten, und ein Mittel, das sie über die Front trug. Aber das Flugblatt hatte zwei Grenzen. Es erreichte nur, wohin ein Ballon trieb, und es kam erkennbar vom Feind; wer es aufhob, wusste, wer zu ihm sprach. Was fehlte, war ein Träger, der jeden erreichte, ohne dass jemand ein Papier aufheben musste, und eine Stimme, der man nicht anhörte, wem sie gehörte.

2. Der Äther und die Farben der Lüge (1933–1945)

Der Rundfunk als Staatsmittel. Den ersten Teil des Problems löste das Radio, und keine Regierung begriff das schneller als die nationalsozialistische. Am 13. März 1933, sechs Wochen nach der Machtübernahme, schuf eine Verordnung des Reichspräsidenten das Reichsministerium für Volksaufklärung und Propaganda mit Joseph Goebbels als Minister.¹⁰ Im August desselben Jahres stellte die Funkausstellung in Berlin den Volksempfänger VE 301 vor, einen Apparat für 76 Reichsmark, während gute Geräte 200 bis 400 kosteten; 1938 folgte der Deutsche Kleinempfänger für 35 Mark. Hatte 1933 ein Viertel der deutschen Haushalte ein Radio, waren es 1941 fast zwei Drittel.¹¹ Der Rundfunk erreichte jeden, in jedem Zimmer, zur selben Stunde, und er gehörte dem Staat. Ab dem 1. September 1939 war das Hören ausländischer Sender verboten, und wer weitergab, was er gehört hatte, riskierte im schlimmsten Fall den Tod.¹²

Die Farben. Damit hatte jede Macht ihren Sender, und jeder Hörer wusste, wem er zuhörte. Die Briten lösten den zweiten Teil des Problems, indem sie den Absender fälschten. Die britischen und amerikanischen Dienste unterschieden Propaganda nach ihrer Herkunft in drei Farben. Weiße Propaganda nennt ihren wahren Absender, wie die Deutschsendungen der BBC oder der Voice of America, die am 1. Februar 1942 gegründet wurde und am 24. Februar ihre erste Sendung auf Deutsch ausstrahlte.¹³ Graue Propaganda nennt keinen Absender, gibt aber auch keinen falschen vor; Linebarger beschrieb sie als Material, bei dem keine Quelle angegeben wird, aber auch kein Versuch, eine falsche nahezulegen.¹ Schwarze Propaganda gibt sich als etwas aus, das sie nicht ist: als Stimme aus dem eigenen Lager des Gegners (Abbildung 2).

Der Chef. Der Meister der dritten Farbe war Sefton Delmer, ein Journalist, der als Sohn eines britischen Hochschullehrers in Berlin aufgewachsen war. Am 23. Mai 1941, zwei Wochen nach dem Flug von Rudolf Hess nach Schottland, ging auf Kurzwelle ein Sender namens Gustav Siegfried Eins auf Sendung, angeblich ein illegaler Sender in Deutschland, auf dem ein preußischer Offizier der alten Schule, „der Chef“, gegen die selbstsüchtigen Parteibonzen der unteren und mittleren Ränge wetterte, die dem Krieg schadeten; gesprochen wurde er von einem Emigranten aus Berlin.¹⁴ Der Trick bestand darin, dass der Sender auf der Seite des Hörers stand. Er war patriotisch, er griff nicht die Führung an, sondern die Funktionäre, und er zerstörte deren Ruf mit Einzelheiten, die glaubhaft klangen. Ab dem 22. März 1943 sendete der Kurzwellensender Atlantik für die Besatzungen der U-Boote, ab dem 14. November 1943 der Soldatensender Calais für die Truppen im Westen, über einen 500-Kilowatt-Sender namens Aspidistra in Südengland. Delmers Regel war, dass der falsche Sender bessere Nachrichten und bessere Unterhaltung bieten musste als die echten, und zwischen die nachprüfbaren Meldungen setzte er die falschen.¹⁵ Die Stelle, die das betrieb, war die Political Warfare Executive, im August 1941 gegründet und unter dem Decknamen eines Nachrichtendienstes des Außenministeriums in einem Landsitz bei Woburn untergebracht.¹⁶

Die Milliarden. Die Amerikaner brachten die Industrie mit. Im Februar 1944 entstand im alliierten Hauptquartier die Psychological Warfare Division unter General Robert McClure, die Sender, Lautsprecher und vor allem Flugblätter einsetzte. Achtzig Prozent davon warf die 8. Luftflotte ab, in einer eigenen Flugblattbombe, die rund 80.000 Blätter fasste und in der Luft aufplatzte; Artilleriegranaten trugen 500 bis 1.500 Stück.¹⁷ Eine einzige Staffel, die Night Leaflet Squadron, warf in 319 Nächten fast 1,5 Milliarden Flugblätter ab.¹⁸ Zusammen waren es auf dem westlichen Kriegsschauplatz mehrere Milliarden.

Die Messung. Zugleich begann man zu messen, was das alles bewirkte. Der Soziologe Paul Lazarsfeld befragte 1940 im Wahlkampf um die Präsidentschaft dieselben rund 600 Wähler im Bezirk Erie in Ohio sieben Monate lang jeden Monat und fand, dass Gespräche mit Bekannten die Wahl stärker bestimmten als Radio und Zeitung. Die Medien erreichten zuerst einige gut informierte Leute, und die gaben weiter, was sie gehört hatten. Dieser Zwei-Stufen-Fluss der Kommunikation, von den Medien zu den Meinungsführern und von ihnen zu den anderen, erschien 1944 in The People’s Choice und ist der Grund, warum jede spätere Einflussoperation versucht hat, nicht nur Botschaften zu senden, sondern Leute zu gewinnen, die sie weitergeben.¹⁹ Der Psychologe Carl Hovland prüfte für das Kriegsministerium in Experimenten, was die Filmreihe Why We Fight von Frank Capra in den Köpfen der Rekruten änderte, und fand dabei den Schläfereffekt: Eine Botschaft aus einer Quelle, der man misstraut, wirkt anfangs wenig und nach Wochen stärker, weil man den Inhalt behält und vergisst, woher er kam.²⁰ Beide Befunde sind für die schwarze Propaganda zentral: Es kommt nicht darauf an, dass die Quelle glaubwürdig ist, sondern dass man sie vergisst.

Selbst ausprobieren. Aufnahmen des Soldatensenders Calais und von Gustav Siegfried Eins sind in Rundfunkarchiven und auf Videoplattformen zu finden; wer zehn Minuten zuhört, hört, wie wenig Propaganda darin ist, und versteht, warum es wirkte. Die Flugblätter beider Weltkriege sind in Sammlungen digitalisiert, etwa beim Deutschen Historischen Museum und in der Sammlung psywarrior.com amerikanischer Veteranen. Das Experiment von Lazarsfeld lässt sich im Kleinen wiederholen: Wer sich vor einer Wahl notiert, woher er seine Meinung zu einem Kandidaten hat, findet selten eine Sendung und oft einen Menschen.

Der Engpass. 1945 hatten die Kriegsparteien gelernt, jedes Haus zu erreichen und den Absender zu fälschen, und Forscher wussten, dass Botschaften über Menschen laufen und dass man die Quelle vergisst. Aber die schwarzen Sender waren teuer, an Kriege gebunden und leicht zu enttarnen, sobald der Gegner hinsah; Delmers Sender lebten von der Gewissheit, dass niemand in Deutschland nachprüfen konnte. Für einen Frieden, in dem sich zwei Systeme jahrzehntelang belauerten, brauchte es ein Verfahren, das geduldiger war: eine Lüge, die nicht über einen Sender kam, sondern über die Zeitungen der anderen.

3. Sender, Ballons und aktive Maßnahmen (1945–1989)

Die Sender des Westens. Nach 1945 wurde aus dem Kriegsmittel eine Dauereinrichtung. Am 4. Juli 1950 sendete Radio Free Europe seine erste halbe Stunde in die Tschechoslowakei, aus New York über einen Sender auf einem Lastwagen in Lampertheim; ab Mai 1951 kam das Programm aus der Zentrale am Englischen Garten in München; am 1. März 1953 folgte Radio Liberation, später Radio Liberty, für die Sowjetunion, vier Tage vor Stalins Tod.²¹ Die Sender stellten sich als Einrichtungen privater amerikanischer Bürger vor; bezahlt wurden sie über zwanzig Jahre lang verdeckt von der CIA, bis Senator Clifford Case am 25. Januar 1971 einen Gesetzentwurf einbrachte und öffentlich machte, dass der Geheimdienst im letzten Haushaltsjahr mehr als dreißig Millionen Dollar gezahlt hatte.²² In Washington koordinierte seit dem 4. April 1951 ein Psychological Strategy Board die Propaganda gegen den Ostblock.²³ Die Sender brachten über weite Strecken Nachrichten, die die Hörer im eigenen Land nicht bekamen, und waren damit weiß in der Sache und grau im Absender, eine Mischung, die für den Kalten Krieg typisch war.

Ballons, Geld und Geister. Wo geschossen wurde, blieb das Flugblatt. Im Koreakrieg gingen von 1950 bis 1953 mehr als zwei Milliarden davon nieder, und die Operation Moolah versprach jedem nordkoreanischen Piloten 50.000 Dollar für eine unbeschädigte MiG-15; als im September 1953 ein Pilot mit seiner Maschine überlief, hatte er von dem Angebot nichts gewusst.²⁴ In Vietnam versprach das Programm Chieu Hoi, „offene Arme“, ab 1963 jedem Kämpfer des Vietcong Straffreiheit, Geld und Ausbildung, und bis 1973 liefen fast 160.000 Menschen über, von denen allerdings nur ein Teil wirklich Kämpfer war.²⁵ Ein Bataillon für psychologische Operationen spielte nachts aus Lautsprechern Tonbänder mit klagenden Stimmen ab, die die Seelen gefallener Kämpfer darstellen sollten, die nicht in der Heimat begraben waren, und nutzte damit einen Glauben der Gegner gegen sie; die Wirkung war umstritten.²⁶

Deutschland. Auch die Bundeswehr baute eine Truppe dafür auf. Ab 1957 plante das Verteidigungsministerium unter Franz Josef Strauß eine Psychologische Kampfführung, im August 1958 entstand das Referat dafür, am 1. Oktober 1959 die Truppe, aus der das heutige Zentrum Operative Kommunikation der Bundeswehr in Mayen hervorgegangen ist; nach Berichten stiegen bis in die 1970er Jahre an der innerdeutschen Grenze Ballons mit Flugblättern auf.²⁷ Die Gegenseite sendete aus der DDR: Der Deutsche Freiheitssender 904 gab sich ab 1956 als Geheimsender westdeutscher Kommunisten aus, der Deutsche Soldatensender 935 wandte sich an die Soldaten der Bundeswehr, um sie zu zersetzen, beide schwarze Sender nach britischem Vorbild.²⁸ Mit der Entspannungspolitik endeten sie, und am 1. Juli 1990 schaffte das Ministerium die Psychologische Verteidigung als Aufgabe im Frieden ab.²⁷

Die Lüge über die Zeitung. Die geduldigere Form der Einflussnahme entwickelte die Sowjetunion. Desinformation ist die absichtliche Verbreitung falscher oder irreführender Angaben, um eine Öffentlichkeit zu täuschen; das russische Wort dezinformazija bezeichnete im Geheimdienst ein Handwerk. Der KGB nannte die Gesamtheit dieser Mittel aktive Maßnahmen, aktiwnyje meroprijatija: gefälschte Dokumente, lancierte Zeitungsartikel, bezahlte Journalisten, Tarnorganisationen und Gerüchte, die über Umwege ins Ausland gebracht wurden. 1959 richtete die Erste Hauptverwaltung dafür eine Abteilung D ein, später zum Dienst A ausgebaut; 1985 arbeiteten dort nach einer Untersuchung des CIA-Historikers Thomas Boghardt rund achtzig Offiziere in der Zentrale, und von jedem Auslandsoffizier wurde erwartet, einen Teil seiner Zeit darauf zu verwenden.²⁹ Die Auslandsaufklärung der Staatssicherheit, die HVA, hatte eine eigene Abteilung X unter Oberst Rolf Wagenbreth, mit rund sechzig Offizieren, und Wagenbreth soll seine Arbeit so beschrieben haben: Die Freunde in Moskau nennten es Desinformation, die Feinde in Amerika aktive Maßnahmen, und er nenne es sein liebstes Steckenpferd.²⁹

INFEKTION. Das bekannteste Beispiel zeigt, wie das funktionierte. Am 17. Juli 1983 druckte die indische Zeitung Patriot, die der KGB finanzierte, einen anonymen Leserbrief eines angeblich bekannten amerikanischen Wissenschaftlers: Aids sei bei Versuchen des Pentagons in Fort Detrick entstanden und könne nach Indien kommen. Zwei Jahre lang geschah nichts. Am 30. Oktober 1985 griff die sowjetische Literaturnaja Gaseta den Brief auf und zitierte den Patriot als Quelle; ein Telegramm des KGB an den bulgarischen Dienst vom 7. September hatte die Kampagne angekündigt. 1986 lieferte der pensionierte Ost-Berliner Biologe Jakob Segal mit seiner Frau ein Gutachten, das die These wissenschaftlich klingen ließ, zum Teil mit Material der HVA, und Offiziere von KGB und Stasi verteilten es auf dem Gipfel der Blockfreien in Harare. Ende 1987 stand die Behauptung in den Medien von mehr als achtzig Ländern.³⁰ Die Akten nennen die Operation „Denver“; das Wort INFEKTION stammt aus der Erinnerung eines früheren HVA-Offiziers.³¹ 1992 räumte Jewgeni Primakow, der Chef des russischen Auslandsgeheimdienstes, ein, dass der KGB dahintergestanden hatte (Abbildung 3).²⁹

Die Wiederholung. INFEKTION lebte von einem Mechanismus, den die Psychologie 1977 gemessen hatte. Lynn Hasher, David Goldstein und Thomas Toppino legten Studenten in mehreren Sitzungen plausible Aussagen vor, wahre und falsche, und manche davon mehrmals; die wiederholten Aussagen hielten die Versuchspersonen für wahrscheinlicher wahr, gleich ob sie es waren.³² Dieser Wahrheitseffekt durch Wiederholung erklärt, warum eine Lüge, die in achtzig Ländern steht, mehr Gewicht hat als eine, die in einem steht, auch wenn alle achtzig voneinander abgeschrieben haben. Die Gegenseite reagierte mit einer Behörde: 1981 richtete die Regierung Reagan eine Arbeitsgruppe aus Außenministerium, CIA, Informationsbehörde und Verteidigungsministerium ein, die Active Measures Working Group, die Fälschungen sammelte, nachwies und den Botschaften Material lieferte.²⁹

Selbst ausprobieren. Boghardts Aufsatz über die Aids-Kampagne ist auf der Website der CIA frei als PDF verfügbar und liest sich wie ein Lehrbuch: jede Station, jede Zeitung, jeder Mittelsmann. Wer die Behauptung, ein Virus stamme aus einem amerikanischen Labor, heute in eine Suchmaschine gibt, findet sie bei jedem neuen Erreger wieder, mit demselben Ort, Fort Detrick. Die Studie von Hasher und Kollegen lässt sich am eigenen Leib nachvollziehen: Eine unbekannte Behauptung, dreimal in einer Woche gelesen, fühlt sich beim vierten Mal vertraut an, und vertraut fühlt sich an wie wahr.

Der Engpass. 1989 beherrschten die Dienste beider Seiten Sender, Flugblätter, schwarze Propaganda und die lancierte Lüge. Aber jede Operation brauchte Menschen: Journalisten, die man bezahlte, Zeitungen, die man finanzierte, Offiziere, die Briefe schrieben und Gutachten verteilten, und sie brauchte Zeit; INFEKTION brauchte vier Jahre, um die Welt zu erreichen. Mit dem Ende des Kalten Krieges verlor das Handwerk seinen Gegner und die Behörden ihr Geld. Was kam, war ein Medium, in dem jeder ohne Zeitung veröffentlichen konnte, und in dem niemand wusste, wer der andere war.

4. Das Netz und die Sockenpuppe (1990–2013)

Der letzte Flugblattkrieg. Der Golfkrieg von 1991 war noch einmal ein Krieg der Flugblätter. Vom 30. Dezember 1990 bis zum 28. Februar 1991 warf die amerikanische Truppe für psychologische Operationen nach Angaben ihrer Veteranen mehr als 29 Millionen Flugblätter in über hundert Ausführungen über den irakischen Stellungen ab, viele davon mit der Aufforderung, sich zu ergeben, und die meisten der rund 87.000 irakischen Soldaten, die sich ergaben oder gefangen wurden, hatten welche bei sich.³³ Wie viele davon ohne Blatt aufgegeben hätten, weiß niemand. Die Doktrin aber hatte das Flugblatt schon hinter sich gelassen. Am 9. Oktober 1998 veröffentlichten die amerikanischen Stabschefs ihre gemeinsame Doktrin für Informationsoperationen: Handlungen, die auf die Informationen und Informationssysteme eines Gegners einwirken, während man die eigenen schützt.³⁴ Die psychologische Kriegsführung war damit ein Teil eines größeren Ganzen geworden, zu dem Täuschung, elektronische Kampfführung und Angriffe auf Netze gehörten, und das Netz war ihr neues Feld.

Die Daten des Wahlkampfs. Die nächste Neuerung kam nicht aus dem Militär, sondern aus dem Wahlkampf. Die Kampagne Barack Obamas für die Wiederwahl 2012 baute in einem fensterlosen Raum ihrer Zentrale in Chicago, „der Höhle“, eine Abteilung für Datenanalyse auf, fünfmal so groß wie 2008, die aus Wählerlisten, Umfragen, Spenden und Kontakten errechnete, wen welche Botschaft über welchen Kanal erreichen würde.³⁵ Das war offen, legal und weiß im Absender, aber es zeigte, was möglich wurde, wenn Rechner wussten, wer wer war.

Die Sockenpuppe. Was der schwarze Sender im Äther gewesen war, wurde im Netz das falsche Konto. Eine Sockenpuppe ist eine erfundene Person im Netz, hinter der jemand anderes steckt, ein Konto mit Namen, Foto und Geschichte, das so tut, als spreche es für sich selbst. Am 17. März 2011 berichtete der Guardian, dass das amerikanische Zentralkommando für den Nahen Osten bei der Firma Ntrepid für rund 2,76 Millionen Dollar eine Software für das Management von Online-Personas bestellt hatte: Ein Bediener sollte bis zu zehn erfundene Identitäten führen, jede mit Hintergrund, Lebenslauf und Einzelheiten, die technisch, kulturell und geografisch stimmig waren, um in Foren und Netzen auf Arabisch, Farsi, Urdu und Paschtu gegen die Propaganda von Extremisten anzuschreiben; auf Englisch und gegen Amerikaner, versicherte das Kommando, werde es nicht eingesetzt.³⁶ Drei Jahre später zeigten Dokumente aus dem Archiv von Edward Snowden, dass der britische Abhördienst GCHQ eine Einheit namens JTRIG unterhielt, die in einer Schulung von 2012 Täuschung im Netz lehrte: falsche Identitäten, gezielt gestreute Behauptungen, um den Ruf von Zielpersonen zu zerstören, und eine eigene Zelle für Verfahren aus der Verhaltenswissenschaft.³⁷ Der Westen hatte die Sockenpuppe also vor seinen Gegnern als Werkzeug beschrieben, als eines für den Einsatz in fremden Sprachen gegen fremde Gruppen.

Die Fünfzig-Cent-Partei. China tat dasselbe nach innen, in einem Maßstab, der alles übertraf. Den bezahlten Kommentatoren des Staates gab der Volksmund den Namen Fünfzig-Cent-Partei, nach dem Betrag, den sie angeblich je Beitrag bekamen. Die Politikwissenschaftler Gary King, Jennifer Pan und Margaret Roberts werteten durchgesickerte E-Mails eines Propagandabüros aus und schätzten 2017, dass die Regierung jährlich rund 448 Millionen erfundene Beiträge in sozialen Netzen veröffentlichen lässt. Ihr Befund war überraschend: Die Beiträge stritten nicht mit Kritikern, sondern lenkten ab, mit Jubel über China, die Geschichte der Partei und ihre Symbole, gerade dann, wenn im Netz etwas brodelte.³⁸ Diese Form, die eine Bewegung von unten vortäuscht, wo eine Organisation von oben steuert, heißt Astroturfing, nach einer amerikanischen Marke für Kunstrasen. Es ist die graue Propaganda des Netzes: Niemand nennt den Absender, und jeder Beitrag sieht aus, als käme er von einem gewöhnlichen Nutzer.

Selbst ausprobieren. Die Studie von King, Pan und Roberts ist frei auf der Website von Gary King zu lesen, mit Beispielen der Beiträge; wer sie liest, erkennt einen Stil wieder, der in jedem Kommentarbereich zu finden ist, das plötzliche Lob, das vom Thema ablenkt. Die JTRIG-Folien hat The Intercept veröffentlicht; die Folie mit den Mitteln der Täuschung liest sich wie eine Liste dessen, was zehn Jahre später staatlichen Akteuren aus Russland, China und Iran vorgeworfen wurde.

Der Engpass. 2013 hatten Militärs, Dienste und Regierungen die Sockenpuppe erfunden, Wahlkämpfer die Datenanalyse und China die Masse. Aber jede Puppe brauchte jemanden, der sie bediente, der die Sprache des Ziellandes schrieb, die Feinheiten seines Streits kannte und Tag für Tag Beiträge verfasste, die nicht nach Behörde klangen. Zehn Personas je Bediener war die Grenze. Was fehlte, war eine Organisation, die das zur Industrie machte, und ein Weg, die richtige Botschaft dem richtigen Menschen zu zeigen.

5. Trollfabrik, Bot und Profil (2013–2018)

Die Fabrik. Im Juli 2013 ließ sich in Sankt Petersburg eine Firma namens Internet Research Agency eintragen. Ab 2014 saß sie in einem Bürohaus in der Sawuschkina-Straße 55, beschäftigte Hunderte Menschen in Schichten und hatte eine Abteilung, die sich ab April 2014 nur mit den Vereinigten Staaten befasste; bezahlt wurde sie über die Firmen Concord des Unternehmers Jewgeni Prigoschin, eines Vertrauten Putins, und im September 2016 betrug der Monatshaushalt des Gesamtprojekts, das intern Lachta hieß, mehr als 73 Millionen Rubel, über 1,25 Millionen Dollar.³⁹ Eine Trollfabrik dieser Art ist eine Organisation, in der angestellte Schreiber im Akkord Sockenpuppen führen, Beiträge verfassen, Gruppen gründen und Streit anfachen, mit Tagespensum, Themenvorgaben und Erfolgskontrolle. Was 2011 zehn Personas je Bediener waren, waren hier Hunderte Bediener mit Tausenden Personas, und sie schrieben auf Englisch für ein amerikanisches Publikum, nicht über, sondern als Amerikaner: als schwarze Bürgerrechtler, als texanische Separatisten, als christliche Konservative und als Muslime.

Der Schlauch. Was damit bezweckt war, beschrieben zwei Forscher der RAND Corporation 2016. Christopher Paul und Miriam Matthews nannten das russische Muster den Feuerwehrschlauch der Unwahrheit: viele Kanäle und große Mengen, schnell, ständig und mit Wiederholung, ohne Bindung an die Wirklichkeit und ohne Bindung an Widerspruchsfreiheit. Es kommt nicht darauf an, dass eine Behauptung geglaubt wird, sondern dass so viele einander widersprechende Behauptungen im Umlauf sind, dass niemand mehr weiß, was er glauben soll; gegen den Feuerwehrschlauch der Unwahrheit, schrieben sie, solle man nicht mit der Wasserpistole der Wahrheit antreten.⁴⁰ Ein angeblicher russischer Plan dahinter, die Gerassimow-Doktrin, war dagegen eine Erfindung des Westens: Der britische Fachmann Mark Galeotti hatte 2014 einen Aufsatz des russischen Generalstabschefs vom Februar 2013 mit diesem Schlagwort versehen und entschuldigte sich 2018 dafür, weil es keine Doktrin sei.⁴¹

Die Bilanz von 2016. Wie weit die Fabrik reichte, zeigten die Plattformen erst, als der Kongress fragte. Am 31. Oktober 2017 sagte Facebook aus, die Internet Research Agency habe von Januar 2015 bis August 2017 rund 80.000 Beiträge auf 120 Seiten veröffentlicht, die 29 Millionen Menschen direkt erreicht hätten und mit dem Teilen bis zu 126 Millionen angezeigt worden sein könnten, dazu mehr als 3.000 Anzeigen für rund 100.000 Dollar. Twitter fand bis Januar 2018 3.814 Konten der Fabrik und 50.258 automatisierte Konten mit Verbindung nach Russland und benachrichtigte 677.775 Nutzer, die mit ihnen zu tun gehabt hatten.⁴² Am 16. Februar 2018 erhob der Sonderermittler Robert Mueller Anklage gegen dreizehn Russen und drei Firmen, darunter die Internet Research Agency und Concord.³⁹ Ob das alles die Wahl entschieden hat, lässt sich nicht beweisen; der Geheimdienstausschuss des Senats kam 2019 parteiübergreifend zu dem Schluss, dass die Fabrik im Auftrag des Kremls versucht hatte, sie zu Lasten Hillary Clintons und zugunsten Donald Trumps zu beeinflussen.⁴³

Der Bot. Zur Fabrik kam die Maschine, die keine Schichten braucht. Ein Social Bot ist ein Konto in einem sozialen Netz, das von einem Programm statt von einem Menschen geführt wird und sich als Mensch ausgibt: Es teilt, antwortet, folgt und setzt Schlagworte, rund um die Uhr. Die Informatiker Alessandro Bessi und Emilio Ferrara werteten 20 Millionen Tweets aus dem Wahlkampf 2016 aus und schätzten, dass rund 19 Prozent davon von Bots kamen und rund 15 Prozent der beteiligten Konten Bots waren; eine zweite Studie schätzte 2017, dass 9 bis 15 Prozent aller aktiven Twitter-Konten Bots seien.⁴⁴ Die Bots waren 2016 noch dumm. Sie konnten wiederholen und verstärken, aber nicht schreiben; was sie verbreiteten, mussten Menschen verfassen.

Das Profil. Die zweite Lösung betraf den Empfänger. Der Psychologe Michal Kosinski und seine Kollegen in Cambridge zeigten 2013 mit den Daten von mehr als 58.000 Freiwilligen, dass sich aus ihren Likes auf Facebook vorhersagen ließ, wer schwul oder heterosexuell war (in 88 Prozent der Fälle richtig unterschieden), wer schwarz oder weiß (95 Prozent) und wer Demokrat oder Republikaner (85 Prozent).⁴⁵ 2015 maßen sie, wie gut ein Programm die Persönlichkeit nach den fünf großen Merkmalen einschätzte, Offenheit, Gewissenhaftigkeit, Extraversion, Verträglichkeit und Neurotizismus, das Big-Five-Modell der Psychologie: Mit zehn Likes war es besser als ein Arbeitskollege, mit 300 besser als der Ehepartner (Abbildung 4).⁴⁶ 2017 folgte der Feldversuch. Sandra Matz und Kosinski zeigten 3,5 Millionen Menschen Werbung, die auf ihre geschätzte Persönlichkeit zugeschnitten war, und erzielten bis zu 40 Prozent mehr Klicks und bis zu 50 Prozent mehr Käufe als mit unpassender Werbung; die Autoren warnten selbst vor dem Missbrauch.⁴⁷ Microtargeting heißt, eine Botschaft nicht an alle zu richten, sondern an kleine Gruppen oder Einzelne, deren Merkmale man aus Daten kennt; psychologisches Targeting ist die Form, die nach der Persönlichkeit statt nach Wohnort oder Alter auswählt.

Cambridge Analytica. Wie viel davon in der Politik ankam, wurde im März 2018 zum Weltthema. Am 17. März berichteten der Observer, der Guardian und die New York Times nach Aussagen des früheren Mitarbeiters Christopher Wylie, dass die britische Beratungsfirma Cambridge Analytica, die für Trumps Wahlkampf gearbeitet hatte, die Daten von Millionen Facebook-Nutzern besaß. Der Psychologe Aleksandr Kogan hatte 2014 mit einer Persönlichkeitstest-App namens thisisyourdigitallife rund 270.000 bezahlte Teilnehmer gewonnen, und die App las auch die Daten ihrer Freunde aus; Facebook bezifferte die Zahl der Betroffenen im April auf bis zu 87 Millionen.⁴⁸ Am 2. Mai 2018 meldete die Firma Insolvenz an, die britische Datenschutzbehörde verhängte gegen Facebook das Höchstmaß von 500.000 Pfund, die amerikanische Handelsaufsicht 2019 fünf Milliarden Dollar.⁴⁸ Weniger bekannt ist der Schluss der britischen Ermittlungen. Nach der Auswertung von mehr als 300.000 Dokumenten schrieb die Datenschutzbehörde im Oktober 2020, die Methoden der Firma seien im Wesentlichen gängige Verfahren mit allgemein verfügbarer Technik gewesen.⁴⁹ Das psychologische Targeting, mit dem die Firma geworben hatte, war wissenschaftlich möglich, aber ob sie es beherrschte, blieb unbelegt. Der Skandal handelte von den Daten, nicht von der Wirkung.

Die Welt. Die Werkzeuge verbreiteten sich schneller als die Beweise ihrer Wirkung. Samuel Woolley und Philip Howard vom Oxford Internet Institute nannten das Ganze computergestützte Propaganda: den Einsatz von Algorithmen, Automatisierung und menschlicher Auswahl, um gezielt irreführende Informationen über soziale Netze zu verbreiten.⁵⁰ Ihre Kollegen zählten 2017 in 28 Ländern Regierungen oder Parteien, die organisiert soziale Netze manipulierten, 2019 in 70 und im Bericht vom Januar 2021 in 81.⁵¹ Am 5. Mai 2017, kurz vor der Stichwahl in Frankreich, tauchten rund neun Gigabyte gehackter E-Mails aus dem Wahlkampf Emmanuel Macrons im Netz auf, gemischt mit Fälschungen; Sicherheitsfirmen ordneten den Angriff der russischen Militäraufklärung zu, die Wahlkommission warnte die Medien davor, die Dateien zu verbreiten, und Macron gewann die Wahl.⁵²

Selbst ausprobieren. Facebook und Instagram zeigen in den Werbeeinstellungen, welchen Interessengruppen die Plattform einen Nutzer zugeordnet hat. Wer diese Liste durchsieht, sieht, was ein Anzeigenkunde über ihn auswählen kann. Die Datensätze der Internet Research Agency hat Twitter 2018 veröffentlicht, und Forscher haben daraus Sammlungen erstellt, in denen man nachlesen kann, wie Angestellte in Sankt Petersburg als amerikanische Aktivisten schrieben.

Der Engpass. 2018 gab es die Fabrik, die Tausende Personas führte, den Bot, der sie verstärkte, und das Profil, das den Empfänger aussuchte. Aber jeder Text, jedes Bild und jede Antwort musste noch ein Mensch schreiben, in der Sprache des Ziels und so, dass er nicht auffiel; und die Plattformen, die Staaten und die Forscher begannen zurückzuschlagen. Was fehlte, waren Regeln, Maßstäbe für die Wirkung und eine Maschine, die schreiben konnte.

6. Regeln, Maßstäbe und die Fälschung (2017–2022)

Die Plattformen räumen auf. Die erste Antwort kam von den Plattformen selbst. Am 31. Juli 2018 löschte Facebook 32 Seiten und Konten, deren Urheber es nicht sicher benennen konnte, von denen einige aber mit bekannten Konten der Internet Research Agency in Verbindung standen, und benutzte dafür einen Begriff, der seither in jedem Bericht steht: koordiniertes unauthentisches Verhalten. Gemeint ist, dass mehrere Konten zusammenwirken, um über ihre Identität oder ihre Absicht zu täuschen; die Plattform löscht sie nicht wegen dessen, was sie sagen, sondern wegen dessen, wie sie es tun. Der Sicherheitschef Nathaniel Gleicher erklärte den Begriff im Dezember 2018 ausführlich, und aus den Löschungen wurden regelmäßige Berichte.⁵³ Wie dringend das war, zeigte Myanmar. Die Untersuchungskommission der Vereinten Nationen nannte Facebook im September 2018 ein nützliches Werkzeug für alle, die Hass verbreiten wollten, nachdem Reuters mehr als tausend Hetzbeiträge gegen die Rohingya gefunden hatte, und Facebook räumte im November ein, dass es zu wenig getan habe, um zu verhindern, dass seine Plattform zur Spaltung und zur Anstiftung von Gewalt benutzt wurde.⁵⁴

Die Staaten regeln. Deutschland verpflichtete mit dem Netzwerkdurchsetzungsgesetz ab dem 1. Oktober 2017 große Plattformen, offensichtlich rechtswidrige Inhalte binnen 24 Stunden zu löschen, mit Bußgeldern bis 50 Millionen Euro.⁵⁵ Die Europäische Union hatte im März 2015 beschlossen, im Auswärtigen Dienst eine kleine Einheit aufzubauen, die East StratCom Task Force, die russische Desinformation sammelt und in der Datenbank EUvsDisinfo öffentlich macht.⁵⁶ Im Herbst 2018 unterschrieben Facebook, Google, Twitter und Mozilla einen freiwilligen Verhaltenskodex gegen Desinformation, und am 5. Dezember 2018 legten Kommission und Hohe Vertreterin einen Aktionsplan vor.⁵⁷ Hinzu kam 2022 das Gesetz über digitale Dienste, das die größten Plattformen verpflichtet, die Risiken ihrer Dienste für Wahlen und öffentliche Debatten zu bewerten und zu mindern.⁵⁸

Die Fälschung. Zugleich bekam die schwarze Propaganda ein neues Werkzeug. Im Dezember 2017 berichtete das Magazin Motherboard über einen Nutzer namens deepfakes auf Reddit, der mit frei verfügbaren Programmen des maschinellen Lernens die Gesichter von Schauspielerinnen in pornografische Videos einsetzte. Der Name wurde zum Begriff: Ein Deepfake ist ein mit maschinellem Lernen erzeugtes oder verändertes Bild, Video oder Tondokument, das eine reale Person zeigt, wie sie etwas sagt oder tut, was sie nie gesagt oder getan hat.⁵⁹ Die Juristen Robert Chesney und Danielle Citron sahen 2018 voraus, dass die größere Gefahr nicht die Fälschung selbst sei, sondern ihr Schatten: Wenn jeder weiß, dass sich Aufnahmen fälschen lassen, kann jeder Lügner eine echte Aufnahme als Fälschung abtun. Sie nannten das die Lügendividende.⁶⁰ Die erste Fälschung, die einen Krieg entscheiden sollte, kam im März 2022, ein Video, in dem Präsident Selenskyj angeblich seine Soldaten zur Aufgabe aufrief; es war schlecht gemacht und schnell widerlegt.

Die Maschine lernt schreiben. Am 14. Februar 2019 stellte OpenAI GPT-2 vor, ein Sprachmodell, also ein Programm, das aus großen Textmengen gelernt hat, zu einem Anfang die wahrscheinlichste Fortsetzung zu schreiben, und das damit Texte erzeugt, die wie von Menschen klingen. Die Firma hielt das vollständige Modell zurück, aus Sorge, es könnte für irreführende Nachrichtenartikel und das Auftreten unter falscher Identität im Netz missbraucht werden; im November 2019 veröffentlichte sie es doch und schrieb, sie habe bis dahin keine starken Belege für Missbrauch gesehen.⁶¹ Forscher prüften, was die Sorge wert war. In einem Versuch der University of Washington hielten Leser die Desinformation eines Modells namens Grover für vertrauenswürdiger als die von Menschen geschriebene.⁶² Sarah Kreps und Kollegen zeigten 2020, dass Leser Nachrichten von GPT-2 kaum von echten unterscheiden konnten.⁶³ Und das Center for Security and Emerging Technology in Georgetown ließ im Mai 2021 das größere GPT-3 sechs Aufgaben einer Einflussoperation erledigen, vom Wiederholen einer Erzählung bis zum Spalten von Gruppen; nachdem Versuchspersonen fünf von Menschen ausgewählte Botschaften des Modells gelesen hatten, verdoppelte sich der Anteil derer, die Sanktionen gegen China ablehnten. Die Forscher schlossen, das Modell sei am stärksten im Team mit Menschen, und die Abwehr solle bei den falschen Konten ansetzen, nicht bei der Erkennung von Texten.⁶⁴

Das Maß. Um zu wissen, ob eine Operation gefährlich war, brauchte man einen Maßstab, und den lieferte im September 2020 Ben Nimmo, der für die Firma Graphika Einflussoperationen untersuchte. Seine Breakout Scale stuft eine Operation nach ihrer Reichweite in sechs Kategorien ein: Kategorie 1 bleibt in einer Gemeinschaft auf einer Plattform, Kategorie 2 erreicht mehrere Plattformen oder mehrere Gemeinschaften, Kategorie 3 beides, Kategorie 4 wird von Leitmedien aufgegriffen, Kategorie 5 von Prominenten oder Politikern verstärkt, und Kategorie 6 löst eine politische Reaktion aus oder ruft zur Gewalt auf (Abbildung 5).⁶⁵ Die Skala misst nicht, ob jemand seine Meinung geändert hat, sondern ob die Operation aus ihrer Blase herauskam, und sie wurde zum Werkzeug, mit dem Plattformen und KI-Firmen ihre Funde einordneten.

Die Impfung. Die dritte Antwort richtete sich an die Leser. Schon 1961 hatte der Psychologe William McGuire gezeigt, dass Einstellungen besser gegen Überredung geschützt sind, wenn man den Menschen vorher abgeschwächte Gegenargumente zeigt und widerlegt, als wenn man sie nur in ihrer Meinung bestärkt; er nannte das nach dem Vorbild der Medizin Impfung gegen Beeinflussung.⁶⁶ Die Cambridger Psychologen Jon Roozenbeek und Sander van der Linden machten daraus ein Spiel. In Bad News schlüpfen die Spieler in die Rolle eines Desinformationsproduzenten, und nach dem Spiel hielten rund 15.000 Teilnehmer Falschmeldungen im Mittel für 21 Prozent weniger glaubwürdig, ohne echten Nachrichten weniger zu trauen.⁶⁷ Im August 2022 zeigten sie mit Google auf YouTube 5,4 Millionen Amerikanern kurze Videos, die je einen Trick erklärten, emotionale Sprache, falsche Alternativen, Sündenböcke, und die Zuschauer erkannten die Tricks danach etwas häufiger; Googles Abteilung Jigsaw setzte das Verfahren ab August 2022 in Polen, Tschechien und der Slowakei gegen Falschmeldungen über ukrainische Flüchtlinge ein und ab Februar 2023 auch in Deutschland.⁶⁸ Prebunking heißt dieses Vorbeugen: die Methode einer Täuschung erklären, bevor die Täuschung kommt, statt sie danach zu widerlegen.

Die eigene Seite. Die Regeln galten nicht nur für die anderen. Von Frühjahr 2020 bis Mitte 2021 betrieb das amerikanische Militär nach einer Recherche von Reuters eine verdeckte Kampagne in den Philippinen gegen den chinesischen Impfstoff Sinovac, mit mindestens 300 falschen Konten auf X, mitten in einer Pandemie.⁶⁹ Und im September 2022 beschrieb die Brüsseler Organisation EU DisinfoLab eine russische Operation, die sie Doppelgänger nannte, weil sie die Websites echter europäischer Zeitungen nachbaute, des Spiegel, der Bild, des Guardian, unter täuschend ähnlichen Adressen, und darauf erfundene Artikel gegen die Ukraine und die Sanktionen veröffentlichte; Meta löschte das Netz aus mehr als sechzig nachgemachten Nachrichtenseiten und nannte es die größte und komplexeste russische Operation seit Kriegsbeginn.⁷⁰ Das war schwarze Propaganda wie bei Delmer, nur dass der falsche Absender nun eine echte Zeitung war.

Selbst ausprobieren. Bad News ist unter getbadnews.com kostenlos zu spielen und dauert eine Viertelstunde; wer es durchgespielt hat, erkennt die sechs Tricks danach in seinem eigenen Nachrichtenstrom. Die Berichte über koordiniertes unauthentisches Verhalten veröffentlicht Meta vierteljährlich, mit Beispielen der gelöschten Beiträge. Und wer bei einer Meldung, die auf einer bekannten Zeitungsseite steht, die Adresse in der Leiste des Browsers prüft, macht den Test, an dem Doppelgänger scheiterte.

Der Engpass. 2022 gab es Regeln für Plattformen, ein Maß für die Reichweite, eine Impfung für die Leser und ein Sprachmodell, das schreiben konnte, wenn auch noch unbeholfen. Die Operationen dagegen lebten weiter von Menschen, die für jede Sprache und jedes Land Texte verfassten, und sie blieben meist in Kategorie 1 oder 2: viel Lärm, wenig Wirkung. Was die Fabrik in Sankt Petersburg gebraucht hätte, war ein Schreiber, der jede Sprache beherrschte, nie müde wurde und nichts kostete. Am 30. November 2022 stellte OpenAI ChatGPT vor.

7. Die Maschine schreibt (2023–2024)

Die Vorhersage. Im Januar 2023, sechs Wochen nach ChatGPT, veröffentlichten Forscher aus Georgetown, von OpenAI und vom Stanford Internet Observatory unter der Leitung von Josh Goldstein eine Studie darüber, was Sprachmodelle an Einflussoperationen ändern würden: an den Akteuren, weil mehr und kleinere Gruppen mitmachen können, am Verhalten, weil sich Operationen leichter vergrößern und auf Einzelne zuschneiden lassen, und an den Inhalten, weil Texte überzeugender und schwerer zu erkennen sind. Sie beschrieben vier Stellen, an denen man eingreifen kann: beim Bau des Modells, beim Zugang zum Modell, bei der Verbreitung und bei der Meinungsbildung der Leser, und sie schrieben, dass keine einzelne Maßnahme genüge (Abbildung 6).⁷¹ Eine Einflussoperation im Sinn dieser Forschung ist ein verdeckter Versuch, die Meinungen eines Publikums zu lenken, bei dem der Auftraggeber über seine Identität oder seine Absicht täuscht; sie umfasst die Sockenpuppen, die Trollfabrik, die schwarze Propaganda und alles, was die Plattformen koordiniertes unauthentisches Verhalten nennen.

Die Wunschliste. Auch die Militärs dachten daran. Im März 2023 veröffentlichte The Intercept eine Bedarfsliste des amerikanischen Kommandos für Spezialoperationen, die unter dem Stichwort Informationsoperationen Fähigkeiten für digitale Täuschung und Desinformationskampagnen suchte, darunter Deepfake-Videos, um Botschaften und Einflussoperationen über nichttraditionelle Kanäle zu erzeugen.⁷² Im Oktober 2024 folgte eine Liste des Kommandos für gemeinsame Spezialoperationen, die überzeugende erfundene Internetnutzer suchte.⁷²

Der Markt. Neben den Staaten verkauften private Firmen Einflussnahme als Dienstleistung. Im Februar 2023 veröffentlichte ein Verbund von Redaktionen um Forbidden Stories, darunter der Guardian, der Spiegel und Le Monde, verdeckt aufgenommene Gespräche mit einer Gruppe früherer Angehöriger israelischer Sicherheitsdienste um Tal Hanan, die die Reporter nach seinem Decknamen Team Jorge nannten. Hanan bot Geheimdiensten, Wahlkampagnen und Firmen seine Dienste an, darunter eine Software namens Aims zur Steuerung falscher Konten, und behauptete, 33 Wahlkämpfe um ein Präsidentenamt betreut und 27 davon gewonnen zu haben, zwei Drittel in Afrika; belegt ist davon nur, dass er es sagte. Hanan bestritt jedes Fehlverhalten.⁷³

Die ersten Funde. Was die Täter mit den Modellen taten, zeigten erst die Firmen, die sie anboten. Am 30. Mai 2024 veröffentlichte OpenAI seinen ersten Bericht über verdeckte Einflussoperationen, die ChatGPT benutzt hatten: Bad Grammar aus Russland, das auf Telegram über die Ukraine, Moldau und das Baltikum schrieb, die bekannte Operation Doppelgänger, das chinesische Netz Spamouflage, die iranische IUVM und eine Kampagne der israelischen Firma STOIC, die OpenAI Zero Zeno nannte. Die Modelle schrieben Beiträge und Kommentare in vielen Sprachen, übersetzten und korrigierten, aber keine der fünf Operationen kam auf der Breakout Scale über Kategorie 2 hinaus. OpenAI fasste das als Evolution, nicht Revolution zusammen.⁷⁴ Hinter STOIC stand nach Berichten der New York Times das israelische Ministerium für Diaspora-Angelegenheiten, das rund zwei Millionen Dollar für eine Kampagne mit Hunderten falscher Konten bezahlt hatte, die amerikanische Abgeordnete mit Beiträgen über den Gazakrieg bearbeitete, teils mit ChatGPT geschrieben; das Ministerium bestritt das, und Meta löschte 510 Konten der Firma.⁷⁵ Spamouflage hatte Meta schon im August 2023 in der größten Löschung seiner Geschichte entfernt, 7.704 Konten, und festgestellt, dass das Netz trotz seiner Größe außerhalb seines eigenen Echos kaum jemanden erreichte.⁷⁶ Bis Oktober 2024 zählte OpenAI mehr als zwanzig gestörte Operationen, die meisten mit geringer Resonanz.⁷⁴

Die Stimme. Wo die Fälschung wirkte, war es selten der Text. Zwei Tage vor der Parlamentswahl in der Slowakei am 30. September 2023, in der Wahlruhe, verbreitete sich auf Facebook eine Tonaufnahme, in der der Liberale Michal Šimečka mit einer Journalistin über den Kauf von Stimmen in der Roma-Minderheit sprach; Faktenprüfer fanden Spuren einer Erzeugung mit KI, aber die Richtlinien der Plattform erfassten damals nur Videos.⁷⁷ Am 21. Januar 2024 bekamen Wähler in New Hampshire zwei Tage vor der Vorwahl Anrufe mit der künstlichen Stimme Joe Bidens, die ihnen riet, nicht zu wählen; ein politischer Berater hatte die Aufnahme bei einem Zauberkünstler bestellt, der sie mit dem Dienst ElevenLabs erzeugte. Die Funkaufsicht FCC erklärte am 8. Februar 2024 mit KI erzeugte Stimmen in automatischen Anrufen für unzulässig und verhängte gegen den Berater sechs Millionen Dollar Bußgeld; ein Geschworenengericht in New Hampshire sprach ihn im Juni 2025 von allen Anklagepunkten frei.⁷⁸ Bei der Wahl in Taiwan im Januar 2024 beobachtete Microsoft nach eigener Darstellung zum ersten Mal, dass ein staatlicher Akteur mit KI erzeugte Inhalte einsetzte, um eine ausländische Wahl zu beeinflussen: eine gefälschte Tonaufnahme, in der ein Unternehmer einen Kandidaten unterstützte, und Nachrichtensprecher, die es nicht gab.⁷⁹

Die Fabrik ohne Arbeiter. Zugleich verschwand die Handarbeit aus den Fabriken. Am 9. Juli 2024 machten das FBI und Behörden Kanadas und der Niederlande eine Software namens Meliorator öffentlich, die mit KI Bot-Farmen betrieb, 968 Konten auf X mit erfundenen Lebensläufen, die selbständig Beiträge schrieben und verbreiteten; ihre Entwicklung hatte nach den Gerichtsunterlagen eine namentlich nicht genannte Person organisiert, die zuvor stellvertretend die Chefredaktion des Staatssenders RT geleitet hatte.⁸⁰ Das Auswärtige Amt hatte schon im Januar 2024 rund 50.000 falsche Konten gezählt, die in einem Monat mehr als eine Million deutschsprachige Beiträge zu Doppelgänger auf X veröffentlicht hatten, automatisiert und von Algorithmen gesteuert.⁸¹ Am 4. September 2024 beschlagnahmte das amerikanische Justizministerium 32 Adressen der Operation und benannte als Betreiber die Moskauer Social Design Agency und die Firma Structura, im Auftrag der Präsidialverwaltung.⁸² Und die französische Behörde Viginum hatte im Februar 2024 ein Netz aus mindestens 193 Websites beschrieben, das sie Portal Kombat nannte: Seiten ohne eigene Inhalte, die nur russische Quellen wiederholten, viele mit dem Wort Pravda im Namen.⁸³ Niemand las sie. Wozu sie dienten, zeigte sich ein Jahr später.

Die Wirkung. Blieb die Frage, ob die Maschine überzeugte. In einer im Februar 2024 veröffentlichten Studie legten Goldstein und Kollegen 8.221 Amerikanern im Dezember 2021 Artikel echter iranischer und russischer Propaganda vor und daneben Artikel, die GPT-3 zu denselben Thesen geschrieben hatte: Ohne Artikel stimmten 24 Prozent den Thesen zu, nach der echten Propaganda 47 Prozent, nach dem Text des Modells 44 Prozent, und wenn ein Mensch die Texte auswählte, war das Modell so überzeugend wie das Original.⁸⁴ Thomas Costello, Gordon Pennycook und David Rand ließen im September 2024 2.190 Menschen, die an eine Verschwörungserzählung glaubten, mit GPT-4 darüber sprechen, und der Glaube sank im Mittel um rund 20 Prozent und blieb zwei Monate später niedriger.⁸⁵ Das Modell konnte also überzeugen, und zwar in beide Richtungen. Das Superwahljahr 2024 verlief trotzdem ohne nachweisbaren Umsturz durch KI. Das Alan Turing Institute fand bei den Wahlen in Großbritannien und der EU einige Dutzend viral gegangene KI-Fälschungen und keine messbare Wirkung auf das Ergebnis, warnte aber vor Folgeschäden wie Misstrauen, und Meta zählte bei den großen Wahlen weniger als ein Prozent KI unter den geprüften Falschmeldungen.⁸⁶

Die Annullierung. Die eine Wahl, die tatsächlich fiel, fiel nicht durch einen Deepfake. Am 6. Dezember 2024 erklärte das rumänische Verfassungsgericht einstimmig die gesamte Präsidentschaftswahl für ungültig, deren erste Runde der zuvor kaum bekannte Călin Georgescu gewonnen hatte, nachdem Präsident Iohannis Berichte der Dienste freigegeben hatte: eine koordinierte Kampagne auf TikTok und Telegram mit rund 25.000 Konten und Zahlungen von 381.000 Dollar an TikTok-Nutzer.⁸⁷ Es war das erste Mal, dass ein Staat der Europäischen Union eine Wahl wegen einer Einflussoperation in sozialen Netzen wiederholen ließ, und das Mittel war nicht die Maschine, sondern die bezahlte Verstärkung.

Selbst ausprobieren. Die Berichte von OpenAI, Meta, Microsoft und Anthropic über gestörte Operationen stehen frei im Netz, mit Bildschirmfotos der Beiträge und oft mit den Anweisungen, die die Täter dem Modell gaben. Wer sie liest, sieht, wie banal das meiste ist: Kommentare, die einen Artikel loben, Übersetzungen, Lebensläufe für erfundene Journalisten. Der Versuch von Costello und Kollegen lässt sich unter debunkbot.com nachstellen, wo ein Modell mit dem Besucher über eine Verschwörungserzählung seiner Wahl spricht; wer es tut, erlebt, wie geduldig und gut informiert eine Maschine argumentiert, und kann sich vorstellen, wie dieselbe Geduld in die andere Richtung wirkt.

Der Engpass. 2024 schrieb die Maschine, übersetzte, führte Konten und überzeugte im Versuch so gut wie die Propaganda der Staaten. Aber die Operationen, die sie benutzten, blieben meist in ihrer Blase, weil Schreiben nicht das Problem war; das Problem war, dass niemand die Beiträge las, die falschen Konten auffielen und die Plattformen sie löschten. Was die Täter brauchten, war Zugang zu echten Lesern und echten Gesprächen, und dafür mussten die Maschinen nicht nur schreiben, sondern selbst entscheiden, mit wem sie sprechen, und dort hineinwirken, wo die Leser inzwischen ihre Antworten suchten: in den Modellen selbst.

8. Überzeugen, Agenten und die offene Frage (seit 2025)

Die Leser sind Maschinen. Im Februar 2025 erklärte das American Sunlight Project, wozu Portal Kombat diente. Das Netz veröffentlichte nach seiner Schätzung mehr als 3,6 Millionen Artikel im Jahr, auf Seiten ohne Suchfunktion und mit kaputter Navigation, die für Menschen unbrauchbar waren; ihr Publikum seien die Programme, die das Netz für das Training von Sprachmodellen und für die Suche der Chatbots durchkämmen. Die Forscher nannten das LLM-Grooming: das gezielte Füttern der Quellen, aus denen Sprachmodelle lernen und zitieren, damit sie eine Erzählung wiedergeben.⁸⁸ Im März 2025 prüfte NewsGuard zehn Chatbots mit fünfzehn Falschbehauptungen aus dem Netz und fand, dass sie diese in rund einem Drittel der Antworten wiederholten.⁸⁹ Das Institute for Strategic Dialogue fand im Oktober 2025 in 18 Prozent der Antworten von vier Chatbots auf Fragen zum Ukrainekrieg Verweise auf russische Staatsquellen, umso mehr, je manipulativer die Frage gestellt war, und erklärte das eher mit Datenleeren: Themen, zu denen es wenige verlässliche Texte gibt, so dass jede Quelle, die etwas dazu schreibt, gefunden wird.⁹⁰ Ob die Modelle wirklich vergiftet werden oder nur suchen, wo sonst nichts steht, ist umstritten. Das Digital Forensic Research Lab zeigte im April 2026, dass die englischen Artikel des Netzes im wichtigsten öffentlichen Textarchiv des Netzes von 37 im November 2024 auf rund 40.000 im November 2025 gewachsen waren und ein großes Modell einen RT-Artikel fast wörtlich wiedergeben konnte; dass es damit trainiert wurde, bewies das nicht.⁹¹

Der Agent führt die Konten. Im April 2025 beschrieb Anthropic zum ersten Mal eine Operation, in der ein Modell nicht nur schrieb, sondern entschied. Ein kommerzieller Anbieter von Einfluss als Dienstleistung hatte Claude benutzt, um mehr als hundert Konten auf X und Facebook mit eigenen politischen Personas zu führen; das Modell entschied für jedes Konto, ob es einen Beitrag mit einem Like versehen, teilen, kommentieren oder übergehen sollte, und die Konten sprachen mit Zehntausenden echter Nutzer, ohne dass etwas viral ging.⁹² Ein KI-Agent, ein Programm aus Sprachmodell und Werkzeugen, das mehrstufige Aufgaben ohne Anleitung Schritt für Schritt erledigt, ersetzte hier den Schichtarbeiter der Trollfabrik. OpenAI fand im Juni 2025 unter zehn Operationen eine russische namens Helgoland Bite, die vor der Bundestagswahl deutsche Texte gegen die Vereinigten Staaten und die NATO und für die AfD schrieb, über einen Telegram-Kanal und ein Konto auf X mit mehr als 27.000 Followern und einem Profilbild aus der KI; ihre Texte tauchten wortgleich auf der deutschen Seite des Pravda-Netzes auf.⁹³ Im August 2025 beschrieben Forscher der Vanderbilt University Dokumente der chinesischen Firma GoLaxy, die mit KI erzeugte Personas in Hongkong und Taiwan einsetzte und Profile von mindestens 117 amerikanischen Kongressabgeordneten und mehr als 2.000 weiteren Personen des öffentlichen Lebens angelegt hatte; die Firma bestritt, amerikanische Amtsträger ins Visier genommen zu haben.⁹⁴

Deutschland. Die Bundestagswahl vom 23. Februar 2025 war ein Testfeld. Eine russische Operation, die Microsoft Storm-1516 nennt, betrieb nach Recherchen von Correctiv mehr als hundert erfundene Nachrichtenseiten mit KI-Texten und verbreitete gefälschte Videos über Politiker, daneben liefen Doppelgänger und eine Operation, die Videos mit KI-Stimmen als Beiträge bekannter Medien ausgab.⁹⁵ Die Europäische Union verhängte im Juli 2025 Sanktionen gegen Beteiligte, und am 12. Dezember 2025 bestellte das Auswärtige Amt den russischen Botschafter ein; die Bundesregierung ordnete Storm-1516 einer Moskauer Einrichtung zu, die von der Militäraufklärung GRU unterstützt werde.⁹⁵ Im September 2026, bei der Landtagswahl in Mecklenburg-Vorpommern und der Abgeordnetenhauswahl in Berlin, verbreiteten sich Videos eines angeblichen Rentnerpaars aus Rostock, auf deren Briefwahlzettel die AfD fehle; ein Beitrag auf X wurde mehr als drei Millionen Mal angesehen, ein Prüfwerkzeug des Fraunhofer-Instituts AISEC hielt die Videos zu 99,8 und 99,9 Prozent für KI-erzeugt, und Forscher sahen dieselbe Operation dahinter.⁹⁶ In Moldau zeigten die BBC und die Zeitung Ziarul de Gardă vor der Parlamentswahl im September 2025, wie ein von Russland bezahltes Netz Menschen anwarb, nach Angaben der Zeitung rund zweihundert, die gegen Geld Beiträge auf TikTok und Facebook veröffentlichten und dabei lernten, ChatGPT zu benutzen, aber sparsam, damit es echt wirkte.⁹⁷ Die Maschine und der bezahlte Mensch arbeiteten nun zusammen, jeder dort, wo er am wenigsten auffiel.

Die Überzeugung wird gemessen. Was 2024 eine Frage war, wurde 2025 ein Befund. Francesco Salvi und Kollegen ließen im Mai 2025 900 Amerikaner mit GPT-4 oder mit Menschen über Streitfragen debattieren; wenn das Modell einige Angaben über sein Gegenüber kannte, Alter, Geschlecht, Bildung, politische Richtung, gewann es in 64 Prozent der Debatten, die nicht unentschieden ausgingen, und die Chance, dass das Gegenüber danach näher an seiner Position stand, stieg um 81 Prozent; Menschen mit denselben Angaben wurden nicht überzeugender.⁹⁸ Im April 2025 wurde bekannt, dass Forscher der Universität Zürich ohne Wissen der Nutzer mehr als 1.700 Kommentare von Sprachmodellen im Reddit-Forum r/changemyview veröffentlicht hatten, in dem Menschen sich von Gegenargumenten überzeugen lassen wollen, teils als angebliches Opfer einer Vergewaltigung oder als Traumaberater, zugeschnitten auf das vermutete Alter, Geschlecht und die politische Haltung der Angesprochenen; Reddit sprach von einem schweren Regelverstoß, und die Forscher verzichteten auf die Veröffentlichung.⁹⁹ Am 4. Dezember 2025 erschienen zwei große Studien am selben Tag. Kobi Hackenburg und Kollegen ließen 76.977 Briten mit 19 Modellen über 707 politische Fragen sprechen: Die stärksten Hebel waren das Nachtraining und die Anweisung, möglichst viele Fakten zu nennen, stärker als die Anpassung an die Person oder die Größe des Modells, und je überzeugender ein Modell argumentierte, desto weniger genau waren seine Angaben.¹⁰⁰ Hause Lin, David Rand und Kollegen ließen Wähler vor den Wahlen in den Vereinigten Staaten, Kanada und Polen mit Modellen sprechen, die für einen Kandidaten warben, und maßen Verschiebungen von rund vier Punkten bei Trump-Anhängern in Amerika und rund zehn in Kanada und Polen; Wahlwerbung für die Gegenseite hatte bei vergleichbaren amerikanischen Wählern 2016 und 2020 nur rund einen Punkt bewirkt. Ein Drittel der Wirkung hielt einen Monat (Abbildung 7).¹⁰¹ Gemessen wurde das allerdings in Gesprächen, die die Teilnehmer aufmerksam und über mehrere Runden führten. Wie viel davon wirkt, wenn ein Beitrag im Strom eines sozialen Netzes nur kurz vorbeizieht, sagen diese Versuche nicht.

Der Schwarm. Im Januar 2026 zogen mehr als zwanzig Forscher in Science die Summe. Was komme, seien KI-Schwärme: Gruppen von Agenten mit dauerhaften Identitäten und Gedächtnis, die auf ein gemeinsames Ziel hin abgestimmt handeln, aus der Resonanz lernen und sich anpassen, und deren größte Gefahr ein künstlicher Konsens sei, der Eindruck, dass viele unabhängige Menschen dasselbe denken. Als Gegenmittel schlugen sie vor, statistisch unwahrscheinliche Einigkeit zu erkennen und die Anreize für unechte Beteiligung zu senken.¹⁰² Der Schwarm ist das Ende der Kette aus Abbildung 1: der Zwei-Stufen-Fluss von 1944, nur dass die Meinungsführer erfunden sind, und der Wahrheitseffekt von 1977, nur dass die Wiederholungen von tausend Stimmen kommen, die eine sind.

Die Staaten. Die Staaten gingen in entgegengesetzte Richtungen. Die Vereinigten Staaten bauten ihre Abwehr ab: Das Global Engagement Center des Außenministeriums, das ausländische Desinformation verfolgte, schloss im Dezember 2024, seine Nachfolgestelle im April 2025, im Februar 2025 löste das Justizministerium die Arbeitsgruppe des FBI für ausländische Einflussnahme auf, und im August 2025 wurde das Zentrum der Geheimdienstkoordination für ausländische Einflussnahme aufgelöst oder anderen Stellen zugeschlagen.¹⁰³ Zugleich gab Verteidigungsminister Hegseth der Truppe im Dezember 2025 ihren alten Namen zurück, psychologische Operationen statt militärischer Informationsunterstützung, und das Kommando für Spezialoperationen suchte nach einer Bedarfsliste vom August 2025 Systeme aus mehreren Agenten, um Einflussoperationen zu vergrößern und abweichende Argumente zu unterdrücken.¹⁰⁴ Die Europäische Union baute auf. Sie verhängte am 5. Dezember 2025 die erste Strafe nach dem Gesetz über digitale Dienste, 120 Millionen Euro gegen X, unter anderem für das täuschende blaue Häkchen, das jeder kaufen konnte; sie stellte im November 2025 einen Europäischen Schutzschild für die Demokratie vor; und seit dem 2. August 2026 verlangt die KI-Verordnung, dass Deepfakes als künstlich erzeugt gekennzeichnet werden, ergänzt um einen Verhaltenskodex vom Juni 2026 für die Kennzeichnung.¹⁰⁵

Die Prüfung. Eine Kennzeichnung setzt voraus, dass sich die Fälschung erkennen lässt, und das gelang schlechter, als sie herzustellen war. OpenAI nahm im Juli 2023 sein eigenes Werkzeug zur Erkennung maschineller Texte vom Netz: Es hatte nur 26 Prozent der KI-Texte als solche erkannt und 9 Prozent menschlicher Texte für maschinell gehalten.¹⁰⁶ Ein digitales Wasserzeichen, ein für das Auge unsichtbares Muster, das ein Generator in seine Bilder einbettet, ließ sich nach einer Studie der University of Maryland vom September 2023 entfernen, indem man das Bild verrauschte und von einem Bildmodell wieder entrauschen ließ, und umgekehrt echten Bildern aufprägen.¹⁰⁷ In einer Stichprobe des Fachdienstes Indicator vom Herbst 2025 kennzeichneten Instagram, LinkedIn, Pinterest, TikTok und YouTube nur 169 von 516 Beiträgen mit KI-Bildern und -Videos als solche, darunter Inhalte, die Werkzeuge von Google und Meta selbst erzeugt hatten; die eingebetteten Herkunftsdaten nach dem Standard C2PA zeigten die Plattformen uneinheitlich an.¹⁰⁸ Fälschen kostete fast nichts, Prüfen blieb teuer.

Die Wahlen von 2026. In Ungarn setzte die Regierungspartei Fidesz vor der Wahl im April 2026 mit KI erzeugte Videos gegen den Herausforderer Péter Magyar ein, eines zeigte die erfundene Hinrichtung eines Soldaten, andere Magyar als Marionette Selenskyjs; Magyars Partei Tisza gewann mit einer Zweidrittelmehrheit, und Forscher des Europäischen Observatoriums für digitale Medien schrieben, die Manipulation sei nur zum Teil erfolgreich gewesen und neun von zehn Befragten hätten sie für unannehmbar gehalten.¹⁰⁹ Im Krieg der Vereinigten Staaten und Israels gegen Iran ab Ende Februar 2026 erreichten KI-Fälschungen von Raketeneinschlägen und gefangenen Soldaten zig Millionen Aufrufe, und X entzog Konten für Kriegsvideos ohne Kennzeichnung neunzig Tage lang die Einnahmen.¹¹⁰ Vor den amerikanischen Zwischenwahlen im November 2026 zählte das Wesleyan Media Project bis Mitte Oktober 220 mit KI erzeugte Wahlwerbespots, für die mehr als 137 Millionen Dollar ausgegeben wurden, gegen weniger als 50.000 Dollar im Wahlkampf 2024, und 69 Prozent trugen keinen Hinweis darauf.¹¹¹ Die weiße Propaganda, mit eigenem Namen, nutzte die Maschine nun offener als die schwarze.

Der erste Durchbruch. Im September 2026 beschrieb Anthropic neun Einflussoperationen, die Claude zwischen Dezember 2025 und August 2026 benutzt hatten, darunter eine russische in der Zentralafrikanischen Republik, die einen Radiosender betrieb, Dokumente fälschte und Oppositionelle ausspähte und die Anthropic in Kategorie 4 einstufte, und eine französische Werbeagentur, die mit rund siebzig erfundenen Nachrichtenseiten Tausende Artikel in zwanzig Sprachen verbreitete, vor allem über die Demokratische Republik Kongo.¹¹² Am 8. Oktober 2026 berichtete OpenAI über eine russische Operation in Lateinamerika, die ein erfundenes Forschungszentrum mit einer erfundenen Direktorin betrieb und echte Autoren anwarb, die nicht wussten, für wen sie schrieben, und über eine iranische, die mit sieben erfundenen Journalisten fast hundert Artikel in einem Dutzend Medien unterbrachte; die russische stufte OpenAI als erste Operation in Kategorie 5 ein, die iranische in Kategorie 4.¹¹³ Was INFEKTION 1983 mit einem bezahlten Blatt in Neu-Delhi begonnen hatte, die Lüge über die Zeitung eines anderen, tat nun eine Maschine, die den Journalisten erfand und den echten anwarb.

Selbst ausprobieren. Die eigene Beeinflussbarkeit lässt sich messen, und das ist der ehrlichste Zugang. Einem Chatbot eine Frage zu einem Thema stellen, über das wenig Verlässliches im Netz steht, etwa zu einer Stadt in einem Kriegsgebiet, und nachsehen, welche Quellen er nennt; dieselbe Frage einmal neutral und einmal mit einer Unterstellung stellen und die Antworten vergleichen. Einem Modell den Auftrag geben, einen von der eigenen Meinung abweichenden Standpunkt möglichst überzeugend zu vertreten, und nach zehn Minuten notieren, ob man ihm in einem Punkt recht gibt, und dann jede seiner Tatsachenbehauptungen prüfen. Wer das tut, erlebt die beiden Studien vom Dezember 2025 am eigenen Kopf: Das Modell überzeugt mit vielen Fakten, und nicht alle stimmen.

Der Engpass. Die Kette dieses Textes endet mit einem offenen Glied. Jede Stufe seit 1914 hat ein Stück der Arbeit zwischen dem Auftraggeber und dem Kopf, den er erreichen will, auf ein neues Mittel verlagert: das Tragen auf das Flugblatt, das Erreichen auf den Rundfunk, das Verbergen auf das lancierte Gerücht, das Erfinden des Absenders auf die Sockenpuppe, das Vervielfachen auf die Fabrik, das Aussuchen auf das Profil, das Schreiben auf das Modell, zuletzt das Handeln selbst auf den Agenten. Übrig bleibt, was sich nie verlagern ließ: die Frage, wer spricht, und die Entscheidung, ob man ihm glaubt. Offen ist, ob Leser, Plattformen und Behörden einen Schwarm erkennen können, der aussieht wie eine Gesellschaft. Offen ist, ob die Lügendividende größer wird als der Schaden der Lügen selbst, wenn jede unbequeme Aufnahme als Fälschung gilt. Offen ist, ob Modelle, die geduldiger und besser informiert argumentieren als Menschen, eher Verschwörungsglauben auflösen oder Wahlen verschieben, und wer das entscheidet. Und offen ist, ob Demokratien, die ihre Bürger nicht bevormunden wollen, sie gegen eine Überzeugungskraft schützen können, die sich nicht mehr als Propaganda zu erkennen gibt. Die Antwort wird nicht in der Maschine fallen, sondern dort, wo sie seit dem ersten Flugblatt fällt: bei dem Menschen, der eine Botschaft liest und sich fragt, wer sie geschickt hat.

Die Kette in Kurzform

1. Wellington House, Creels Komitee und Crewe House (1914–1918) machen die Propaganda zur Behörde und das Flugblatt zur Waffe; Lasswell und Bernays machen sie zur Wissenschaft; aber das Flugblatt kommt erkennbar vom Feind.
2. Rundfunk und Volksempfänger (1933) bringen die Reichweite, Delmers schwarze Sender (1941–1945) den falschen Absender; Lazarsfeld und Hovland finden den Zwei-Stufen-Fluss und den Schläfereffekt; die Lüge braucht einen Krieg.
3. Radio Free Europe, die Ballons der Bundeswehr und die aktiven Maßnahmen des KGB (1950–1989) machen die Einflussnahme zur Daueraufgabe; INFEKTION zeigt, wie eine Lüge über fremde Zeitungen in achtzig Länder kommt, und braucht dafür vier Jahre und viele Hände.
4. Informationsoperationen, Datenanalyse, Sockenpuppe und Fünfzig-Cent-Partei (1990–2013) bringen die Einflussnahme ins Netz; jede Persona braucht einen Menschen.
5. Internet Research Agency, Social Bots, Kosinskis Profile und Cambridge Analytica (2013–2018) machen daraus eine Industrie mit Zielgenauigkeit; die Texte schreiben noch Menschen.
6. Koordiniertes unauthentisches Verhalten, Gesetze, die Breakout Scale, Prebunking, Deepfakes und GPT-2 (2017–2022) bringen Regeln, Maß und Gegenmittel und die erste Maschine, die schreibt.
7. ChatGPT, die Berichte der KI-Firmen, Meliorator, Doppelgänger und die Annullierung in Rumänien (2023–2024): Die Maschine schreibt, die Operationen bleiben klein, die Wirkung im Versuch ist so groß wie die der Staatspropaganda.
8. LLM-Grooming, Agenten, die Konten führen, Studien, in denen Modelle besser überzeugen als Menschen, und die ersten Operationen in Kategorie 4 und 5 (seit 2025): Die Maschine handelt; offen ist, wer erkennt, wer spricht.

Zeitleiste

Weiterlesen

• Thomas Rid: Active Measures. The Secret History of Disinformation and Political Warfare. Farrar, Straus and Giroux, New York 2020. Die Geschichte der Desinformation von den 1920er Jahren bis zur Internet Research Agency, aus den Akten erzählt; Abschnitte 3 bis 5.
• Paul M. A. Linebarger: Psychological Warfare. Infantry Journal Press, Washington 1948; 2. Auflage 1954, frei bei Project Gutenberg. Das Lehrbuch eines Praktikers mit den Farben der Propaganda; Abschnitte 2 und 3.
• Edward L. Bernays: Propaganda. Horace Liveright, New York 1928, frei bei Project Gutenberg. Das Programm der Einflussindustrie, vom Gründer der Öffentlichkeitsarbeit; Abschnitt 1.
• Campbell Stuart: Secrets of Crewe House. The Story of a Famous Campaign. Hodder and Stoughton, London 1920, frei bei Project Gutenberg. Der Flugblattkrieg von 1918 aus der Sicht seiner Macher; Abschnitt 1.
• Sefton Delmer: Black Boomerang. Secker & Warburg, London 1962. Die schwarzen Sender, erzählt von dem, der sie erfand; Abschnitt 2.
• Thomas Boghardt: Soviet Bloc Intelligence and Its AIDS Disinformation Campaign. In: Studies in Intelligence 53(4), 2009, frei bei der CIA. Operation INFEKTION Station für Station; Abschnitt 3.
• Samuel C. Woolley, Philip N. Howard (Hg.): Computational Propaganda. Political Parties, Politicians, and Political Manipulation on Social Media. Oxford University Press, New York 2018. Neun Länder, ein Begriff; Abschnitt 5.
• Renée DiResta: Invisible Rulers. The People Who Turn Lies into Reality. PublicAffairs, New York 2024. Wie Einfluss im Netz funktioniert, von einer Forscherin, die die Internet Research Agency für den Senat untersucht hat; Abschnitte 5 bis 7.
• Josh A. Goldstein u. a.: Generative Language Models and Automated Influence Operations. Emerging Threats and Potential Mitigations. Georgetown, OpenAI, Stanford 2023, frei im Netz. Die Vorhersage, die die Jahre danach bestätigten und widerlegten; Abschnitt 7.
• Ben Nimmo: The Breakout Scale. Measuring the Impact of Influence Operations. Brookings Institution, Washington 2020, frei im Netz. Das Maß, mit dem die Branche zählt; Abschnitte 6 bis 8.

Quellen

Die Chronik stützt sich auf die Originaldokumente, Gerichts- und Regierungsakten, Berichte der Plattformen und KI-Firmen, wissenschaftlichen Studien und zeitgenössischen Berichte, die in den Fußnoten genannt sind. Wo nur Sekundärquellen gefunden wurden, ist das vermerkt.