Meta hat kürzlich einen Sicherheitsbericht veröffentlicht, der die Nutzung generativer Künstlicher Intelligenz (KI) durch Russland bei Online-Betrugsaktivitäten aufzeigt. Dem Bericht zufolge versucht Russland zwar, seine Online-Interventionen mit KI zu verstärken, doch bisher blieben diese Bemühungen weitgehend erfolglos.
Metas Untersuchung zeigt, dass die Vorteile der KI-gestützten Strategien Russlands minimal sind und hauptsächlich zu einer Steigerung der Effizienz und der Fähigkeit zur Inhaltsgenerierung bei den Tätern führen. David Agranovich, Leiter der Sicherheitspolitik bei Meta, erklärte, dass sich diese Desinformationskampagnen seit dem Einmarsch Russlands in die Ukraine im Jahr 2022 hauptsächlich auf die Diskreditierung der Ukraine und ihrer Unterstützer konzentrieren.
Im Hinblick auf die bevorstehenden US-Wahlen erwartet Meta, dass von Russland unterstützte Online-Betrugsaktivitäten auf politische Kandidaten abzielen werden, die die Ukraine unterstützen. Facebook wurde in den vergangenen Jahren stark kritisiert, weil es als Brutstätte für Wahl-Desinformationen diente, wobei russische Agenten die Plattform für die Schürzung politischer Konflikte bei den Wahlen 2016 und anderen US-Wahlen nutzten.
Experten äußern Bedenken hinsichtlich der zukünftigen Verbreitung von Desinformationen, insbesondere angesichts der Verbreitung von generativen KI-Tools wie ChatGPT und Dall-E, die es böswilligen Akteuren ermöglichen, schnell und einfach gefälschte Inhalte zu erstellen. Dem Bericht zufolge kann KI nicht nur Bilder und Videos erstellen, sondern auch Texte generieren und gefälschte Nachrichten verfassen.
Bei der Aufdeckung von Betrugsaktivitäten konzentriert sich Meta hauptsächlich auf das Verhaltensmuster von Accounts und nicht nur auf die veröffentlichten Inhalte. Tatsächlich erstrecken sich diese Einflussnahmeaktivitäten oft über mehrere Online-Plattformen. Meta stellte fest, dass Beiträge auf bestimmten Social-Media-Plattformen verwendet werden, um die Glaubwürdigkeit gefälschter Inhalte zu erhöhen. Meta hat diese Erkenntnisse mit anderen Internetunternehmen wie X (ehemals Twitter) geteilt und die Bedeutung der gemeinsamen Bekämpfung von Desinformationen hervorgehoben.
Agranovich erwähnte jedoch, dass X sich derzeit in einem Transformationsprozess befindet und viele Teammitglieder, die früher mit Meta zusammengearbeitet haben, das Unternehmen verlassen haben. Daher sei die Reaktion auf Betrugsaktivitäten langsamer. Gleichzeitig hat X die Ressourcen für die Inhaltsprüfung stark reduziert, was es zu einem Nährboden für Desinformationen macht.
Wichtigste Punkte:
1. 🇷🇺 Russlands KI-gestützte Online-Betrugsaktivitäten sind ineffektiv und haben keine signifikanten Ergebnisse erzielt.
2. 🗳️ Meta erwartet, dass Russland während der US-Wahlen Cyberangriffe auf Kandidaten starten wird, die die Ukraine unterstützen.
3. 🤖 Die Verbreitung generativer KI-Tools erleichtert es böswilligen Akteuren, Desinformationen zu erstellen und zu verbreiten.