Um die öffentliche Meinung zu beeinflussen, hat eine russische Gruppe einen Chatbot verwendet. Dieser sollte «gegen die liberale Politik der Macron-Regierung» schreiben, heisst es in der Anweisung.
Auf den ersten Blick scheint es sich um die Website einer der vielen Organisationen zu handeln, die sich mit Geopolitik beschäftigen. Die Site gbgeopolitics.com hat Sektionen wie «US News» oder «War in Gaza». In den zahlreichen Artikeln geht es um zivile Todesopfer im Gazastreifen oder um russische Angriffe in der Ukraine.
Doch die Site ist Teil einer grösseren Aktion zur Beeinflussung der öffentlichen Meinung im Westen. Eine mutmasslich russische Gruppe hatte sie im Februar oder März eingerichtet. Dabei geholfen hat ihr künstliche Intelligenz, wie ein Bericht der IT-Sicherheits-Firma Recorded Future nun zeigt.
Gleich bei mehreren Dutzend Artikeln lässt sich erkennen, dass die Urheber von gbgeopolitics.com auf einen Chatbot zurückgegriffen haben müssen. Jeweils zu Beginn des Textes findet sich die folgende Anweisung, mutmasslich an ein KI-System gerichtet: «Bitte schreiben Sie diesen Artikel um und nehmen Sie dabei eine konservative Haltung gegen die liberale Politik der Macron-Regierung ein.»
Offensichtlich passierte der Fehler, die Anweisung an den Chatbot nicht zu entfernen. Grund dafür ist möglicherweise, dass die Übernahme und das Umschreiben der Artikel von den französischen Originalquellen La Croix und TV5 Monde automatisch geschahen. Die Site gbgeopolitics.com ist inzwischen offline, aber einige Artikel finden sich noch in Online-Archiven.
KI soll Republikaner und Russland positiv darstellen
Die Site ist Teil eines grösseren Netzwerks, «Copycop» genannt, wie Recherchen von Recorded Future und der «New York Times» ergeben haben. Dazu gehören mindestens zwölf Websites von angeblich journalistischen Online-Magazinen, die untereinander technische Verbindungen und Gemeinsamkeiten aufweisen. Ihre Namen wie «The Boston Times», «The British Chronicle» oder «Infos Indépendants» deuten auf ein Zielpublikum in den USA, in Grossbritannien und in Frankreich hin.
Inhaltlich bestehen die vermeintlichen News-Sites aus einer Mischung von populären Nachrichten über politische oder gesellschaftliche Themen und prorussischen Berichten zum Ukraine-Krieg sowie israelkritischen Artikeln zum Gaza-Konflikt. Bei Artikeln über die amerikanische Innenpolitik stehen polarisierende Themen wie die Einwanderung oder die Kontrolle des Waffenbesitzes im Vordergrund. Die Politik der Demokraten wird kritisiert.
Welche Narrative propagiert werden sollen, lässt sich auch aus Aussagen ableiten, welche die KI-Systeme in einigen Fällen ihren Texten beigegeben haben. So heisst es zum Beispiel bei einem Artikel, dass dieser gemäss der Anweisung geschrieben sei, einen «zynischen Ton gegenüber der US-Regierung, der Nato und amerikanischen Politikern» hervorzuheben. Zudem seien wie gewünscht die Republikaner, Donald Trump oder Russland positiv dargestellt.
Dass eine Gruppe auf künstliche Intelligenz zurückgreift, um ihre Beeinflussungsoperationen gegen den Westen durchzuführen, erstaunt nicht. Bei Texten lässt sich allerdings meist nicht erkennen, dass sie von KI erzeugt wurden. Nun hat ein nachlässiges Vorgehen – möglicherweise gepaart mit einer Automatisierung – dazu geführt, dass die Einsatzweise von KI und die politischen Absichten der Gruppe publik werden.
Geflüchteter Ex-Polizist aus den USA könnte involviert sein
Angefangen hat der Einsatz von KI bei Copycop spätestens im vergangenen September. Damals hatte die Website DC Weekly begonnen, täglich mehrere hundert neue Artikel zu publizieren. Das zeigt ein Bericht der amerikanischen Universität Clemson vom Dezember. Darin beschreiben die Forscher auch Textstellen, die zeigen, dass offensichtlich Chat-GPT-3 zum Einsatz kam, um Artikel von Fox News für die eigene Plattform zusammenzufassen.
Hinter DC Weekly scheint der frühere amerikanische Polizist John Mark Dougan zu stehen. Dieser hatte 2016 unter dem Pseudonym «BadVolf» vertrauliche Angaben über Angehörige der Sicherheitskräfte in Florida veröffentlicht und war dann nach Russland geflohen. Recorded Future hat nun Verbindungen zwischen DC Weekly und den anderen angeblichen News-Sites des Netzwerks Copycop, die ab Januar entstanden sind, entdeckt.
Ob Dougan tatsächlich und alleine hinter Copycop steht, ist unklar. Die Forscher von Recorded Future gehen davon aus, dass das Netzwerk von Russland aus betrieben wird. Möglicherweise werde es von Regierungsstellen oder dem grösseren Komplex der russischen Desinformationsgruppen unterstützt oder beaufsichtigt, schreiben sie. Zu diesem Geflecht gehören private Firmen wie die Internet Research Agency (IRA), die sich 2016 in den amerikanischen Wahlkampf einmischte und vom inzwischen getöteten Jewgeni Prigoschin finanziert wurde.
Zwei andere russische Firmen sollen hinter der Aktion «Doppelgänger» stehen. Das ist die Bezeichnung für eine grosse russische Kampagne, die seit Monaten zahlreiche bekannte europäische Medien-Sites imitiert, um so Falschinformationen zu verbreiten. Das Netzwerk Copycop scheint im Vergleich dazu jedoch noch weitaus weniger professionell zu operieren.
