Russische Desinformation: Wie KI‑Chatbots Kreml-Propaganda verbreiten
Gemäß den Erkenntnissen der Wissenschaftler nutzt Russland in seinen globalen Desinformationskampagnen auch westliche Chatbots.
Eine Untersuchung der Organisation NewsGuard zeigt, dass mehr als ein Drittel der Antworten von KI-Kommunikationsassistenten wie ChatGPT pro-russische Falschmeldungen enthielten. Laut den Forschern steckt das Moskauer Netzwerk "Prawda" dahinter, das pro-kremlische Propaganda weltweit verbreitet.
"Eine enorme Menge russischer Propaganda – 3.600.000 Artikel im Jahr 2024 – ist derzeit in den Ergebnissen westlicher KI-Systeme vorhanden, was dazu führt, dass deren Antworten mit falschen Behauptungen und Propaganda infiziert werden", schreiben die NewsGuard-Forscherinnen McKenzie Sadeghi und Isis Blachez in ihrem Bericht.
Im Rahmen der Untersuchung analysierte NewsGuard zehn der wichtigsten Anwendungen künstlicher Intelligenz, darunter ChatGPT-4, Smart Assistant, Grok, Copilot, Meta AI, Google Gemini und Perplexity. Alle wiederholten die von "Prawda" verbreiteten Desinformationen. Sieben Chatbots zitierten sogar spezifische Artikel von "Prawda" als Quellen.
Manipulation von Chatbots
Laut den Forscherinnen manipuliert "Prawda" Chatbots, indem es große Sprachmodelle (Large Language Model, LLM), die zur Verarbeitung und Generierung von Text durch KI-Anwendungen genutzt werden, mit falschen Informationen flutet. Diese Methode wird als "LLM Grooming" bezeichnet. Die Untersuchung von NewsGuard zeigt, dass KI-Chatbots nicht nur die im Internet kursierenden Desinformationen übernehmen, sondern auch gezielt ihrem Einfluss ausgesetzt werden.
Die gemeinnützige Organisation American Sunlight Project warnt in einer separaten Untersuchung vor der zunehmenden Reichweite des Netzwerks "Prawda", auch bekannt als "Portal Kombat", sowie vor dem Risiko, dass pro-russische Inhalte die Trainingsdaten großer Sprachmodelle (LLM) überfluten.
"Die Fähigkeit des Netzwerks 'Prawda', Desinformationen in diesem Maße zu verbreiten, ist beispiellos, und sein Potenzial, auf KI-Systeme Einfluss zu nehmen, macht diese Bedrohung noch gefährlicher", sagt Nina Jankowicz, Geschäftsführerin des American Sunlight Project. Ihrer Meinung nach ist die Integrität der demokratischen Debatte weltweit direkt bedroht, wenn der Umfang und die Raffinesse des russischen Einflusses zunehmen.
Experten warnen, dass die Bedrohung durch russische Desinformation besonders groß ist, da die Vereinigten Staaten derzeit nichts unternehmen, um dieser entgegenzuwirken. US-Verteidigungsminister Pete Hegseth ordnete eine vorübergehende Aussetzung der Cyber-Operationen gegen Russland an, worüber mehrere amerikanische Medien Anfang des Monats berichteten. Alle amerikanischen Maßnahmen gegen Moskau werden derzeit neu bewertet.
Kreml-Propaganda auf X, Telegram und Bluesky
Das Moskauer Netzwerk "Prawda" wurde im April 2022 nach dem russischen Einmarsch in die Ukraine gegründet und entwickelt sich seitdem kontinuierlich weiter. Nach Angaben von NewsGuard erstreckt es sich derzeit über 49 Länder und Dutzende von Sprachen.
"Prawda" erstellt keine eigenen Inhalte, sondern nutzt Artikel aus russischen Staatsmedien oder von kremltreuen Persönlichkeiten, die das Netzwerk millionenfach über Plattformen wie X, Telegram und Bluesky verbreitet. Einer der falschen Berichte behauptet zum Beispiel, dass die USA geheime biologische Waffenlabore in der Ukraine betreiben. Im Februar widerlegten Faktenprüfer der Nachrichtenagentur AFP die falsche Behauptung in den sozialen Medien, dass der ukrainische Präsident Wolodymyr Selenskyj den Zugang zum sozialen Netzwerk Truth Social von US-Präsident Donald Trump verboten habe.
Als NewsGuard die Chatbots nach dem Grund fragte, warum Selenskyj Truth Social verboten habe, wiederholten sechs von ihnen den falschen Bericht als offizielle Information, wobei sie sich in vielen Fällen auf Artikel aus dem Moskauer Netzwerk "Prawda" beriefen. Darüber hinaus stellten die Chatbots laut NewsGuard die Lügen des kreml-treuen Propagandisten John Mark Dougan, eines ehemaligen US-Polizisten, als Fakten dar. Die Organisation stellte fest, dass Dougan auf einer Moskauer Konferenz im Januar sagte: "Indem wir diese russische Erzählung fördern, können wir die künstliche Intelligenz weltweit wirklich verändern." Und ergänzte: "Wir sollten uns nicht vor diesem Werkzeug fürchten, sondern es nutzen."
Lesen Sie auch:
