USA und Verbündete zerstören russische „Bot-Farm“, die Propaganda mit KI verbreitet

In einer erstaunlich detaillierten Komposition Beratung, Behörden in den Vereinigten Staaten, den Niederlanden und Kanada identifizierten verschiedene Softwareprogramme zur Verwaltung des Netzwerks, darunter eines namens Melioter, das fiktive Benutzer schuf, die in verschiedenen Ländern als „Geister“ bekannt sind. Das FBI gewann vor Gericht Befehl Mit dieser Funktion können wir die beiden Webdomänen erfassen, die zur Registrierung der E-Mail-Adressen hinter den Konten verwendet werden.

„Die heutigen Aktionen sind die ersten, die eine von Russland unterstützte KI-gestützte Social-Media-Bot-Farm stören“, sagte FBI-Direktor Christopher A. sagte Wray. Bericht. „Russland beabsichtigt, diese Botfarm zu nutzen, um KI-generierte ausländische Desinformation zu verbreiten, um unsere Partner in der Ukraine zu untergraben, geopolitische Narrative zu beeinflussen, die für die russische Regierung günstig sind, und ihre Mission mit Hilfe von KI zu skalieren.“

Automatisierte Konten mit detaillierteren Biografien posteten Originalinhalte, während Nebendarsteller von allgemeineren Konten diese Beiträge mit „Gefällt mir“ markierten und erneut teilten. Die Beamten antworteten nicht auf Fragen dazu, wie viele tatsächliche Benutzer die Beiträge gesehen haben und ob jemand die Nachricht weiter verbreitet hat. Daher ist unklar, wie effektiv die Kampagne war.

Das System umgeht eine von Xs Techniken zur Überprüfung der Authentizität von Benutzern, indem es automatisch Einmalpasswörter kopiert, die an registrierte E-Mail-Adressen gesendet werden. Verweise auf Facebook und Instagram im Programmcode sollen auf diese Plattformen ausgeweitet werden, sagten Beamte.

Die Agentur empfahl Social-Media-Unternehmen, ihre Methoden zur Erkennung verdeckten automatisierten Verhaltens zu verbessern.

X kam dem Gericht nach Befehl übermittelte dem FBI Informationen über die Konten, die diese später löschten. Das Unternehmen antwortete nicht auf Fragen der Washington Post.

Das Justizministerium dankte X für die Zusammenarbeit während der Untersuchung, ein Zeichen für eine bessere Kommunikation zwischen der Regierung und großen Social-Media-Unternehmen, nachdem der Oberste Gerichtshof das Recht von Beamten bestätigt hatte, auf ausländische Einflussaktivitäten hinzuweisen.

John Scott-Railton, ein Forscher am kanadischen gemeinnützigen Citizen Lab, sagte, diese Länder hätten detaillierte Informationen über das Innenleben des Botnetzes bereitgestellt, um anderen Ermittlern und Unternehmen zu helfen, zu wissen, wonach sie suchen müssen.

„Sie glauben nicht, dass dieses Problem verschwinden wird, also teilen sie es weithin“, sagte Scott-Railton.

Die Dokumente zeigten, dass die großen Sprachmodelle der KI russischen Propagandisten dabei geholfen hätten, ihre Aktivitäten zu messen und bei der Übersetzung zu helfen, sagte er. Es hilft ihnen auch, Erkennungssoftware zu vermeiden, die nach der wiederholten Verwendung derselben Internetprotokolladressen und anderer Identifikatoren sucht.

Aber es gibt bereits viele andere Systeme, und je nachdem, was sie erkennen und erhalten, werden sie besser, sagte Scott-Railton. „Das ist nicht einmal die Spitze des Eisbergs“, sagte er. „Es ist die Spitze des Eisbergs.“