Manipulationsängste nehmen zu, da Bots die sozialen Medien überschwemmen

Weniger als vierundzwanzig Stunden nach der Ermordung von Charlie Kirk in Utah wurde das soziale Netzwerk X von Nachrichten überflutet, die nach Rache riefen und einen Bürgerkrieg erwähnten. Tausende von Beiträgen, oft in identischen Formulierungen verfasst, machen die Linke verantwortlich. Angesichts dieses Ansturms vermuten mehrere Forscher eine künstliche Verstärkung. Hinter diesen Aufrufen zur Gewalt weisen einige Konten Merkmale automatisierter Netzwerke auf.

Aufrufe zum Bürgerkrieg in den ersten Stunden

Stunden nach der Bekanntgabe der Ermordung von Charlie Kirk, die während einer Veranstaltung in Salt Lake City (Utah) stattfand, wurde die Plattform X (ex-Twitter) mit feindseligen Nachrichten überschwemmt, die zum Bürgerkrieg oder zu Vergeltungsmaßnahmen gegen die amerikanische Linke aufriefen, während die EU bedeutende Sanktionen gegen das genannte soziale Netzwerk vorbereitet.

Diese Beiträge, oft wortwörtlich wiederholt, erregten schnell Aufmerksamkeit durch ihren kriegerischen Ton und ihre rasche Verbreitung. Formulierungen wie „Das ist Krieg“, „Die Linke wird dafür bezahlen“ oder „Ihr habt keine Ahnung, was auf euch zukommt“ wurden vielfach wiederholt, und zwar von Konten mit sehr ähnlichen und wenig ansprechenden Profilen.

Der Politikwissenschaftler Branislav Slantchev, Professor an der University of San Diego, fasste die Situation auf X wie folgt zusammen: „Wir werden viele Konten sehen, die tatsächlich auf einen Bürgerkrieg in den Vereinigten Staaten drängen. Dazu gehört der Meisterprovokateur Elon Musk, aber auch eine Armee russischer und chinesischer Bots sowie ihre eifrigen Helfer im Westen“.

Was viele Nutzer und Forscher festgestellt haben, ist die starke Konzentration von Profilen, die wiederkehrende Kriterien erfüllen, was auf eine algorithmische oder automatisierte Verstärkung der Inhalte hindeutet:

• Profilbilder, die von KI generiert oder aus Bilddatenbanken entnommen wurden;

• Generische Biografien, oft auf wenige Schlüsselwörter beschränkt (Christian, MAGA, Patriot, usw.);

• Systematische Hinweise wie „NO DMs“, die bei vielen an dieser Verbreitung beteiligten Konten zu finden sind;

• Patriotische Banner und Visuals, amerikanische Flaggen oder Zitate konservativer Persönlichkeiten;

• Sehr geringe Aktivitätshistorie, abgesehen von Veröffentlichungen im Zusammenhang mit diesem Ereignis;

• Sehr enge Veröffentlichungszeiten, wobei ähnliche Nachrichten mehrfach gepostet wurden.

Diese Elemente stellen einzeln genommen keinen formellen Beweis für eine Automatisierung dar. Ihre Häufung und Homogenität haben jedoch den Verdacht auf eine Desinformations- oder orchestrierte Verstärkungsoperation auf X genährt, die den Schock durch Kirks Ermordung ausnutzt.

Verdacht auf algorithmische Manipulation ohne formellen Beweis

Obwohl zahlreiche Hinweise auf eine mögliche orchestrierte Manipulation vorliegen, hat bislang keine öffentliche Behörde, kein Cybersicherheitszentrum und keine große Plattform die Existenz einer koordinierten Bot-Kampagne im Zusammenhang mit diesem Ereignis bestätigt.

Mehrere Studien erinnern jedoch daran, dass ausländische Operationen zur Verstärkung polarisierender Diskurse, wie „Spamouflage“ (China zugeschriebenes Netzwerk) oder „Doppelgänger“ (pro-russische Einflusskampagne), die Vereinigten Staaten bereits über Netzwerke von Fake-Accounts und KI-generierten Inhalten ins Visier genommen haben.

Im Jahr 2024 identifizierte eine Untersuchung von Global Witness 45 Konten mit gewöhnlichem Erscheinungsbild, die allein mehr als 4 Milliarden Impressionen rund um polarisierende Inhalte generierten.

Die rasante Entwicklung der mit künstlicher Intelligenz verbundenen Technologien erschwert es inzwischen, solche Kampagnen zu erkennen. Veröffentlichungen mit menschlicher Tonalität, fehlerfreier Rechtschreibung und zu glaubwürdigen Zeiten können nun in industriellem Maßstab produziert werden.

Eine im vergangenen Februar in Plos One veröffentlichte Studie zeigt zudem, dass seit dem Kauf von X durch Elon Musk das Volumen hasserfüllter Sprache zugenommen hat, ohne dass der Anteil unauthentischer Konten gesunken wäre.

Während die UN zunehmend vor Deepfakes warnt, könnten das Ausmaß und die Heftigkeit dieser neuen Welle von Aufrufen zum Bürgerkrieg auf X nur die ersten Anzeichen einer größeren Auseinandersetzung sein, die durch Algorithmen und Server ausgetragen wird. Auch wenn die These einer ausländischen Einmischung noch bestätigt werden muss, verdeutlicht sie eine grundlegende Wahrheit: Das moderne politische Chaos bricht nicht mehr nur an den Wahlurnen oder auf den Straßen aus, sondern auch – und vielleicht vor allem – hinter den Kulissen des Codes.