Eine kürzlich durchgeführte Studie der Ruhr-Universität Bochum, des GESIS Leibniz-Instituts und des CISPA Helmholtz-Zentrums hat ergeben, dass nur 0,052 % aller X (ehemals Twitter)-Konten KI-generierte Profilbilder verwenden. Die Forscher analysierten fast 15 Millionen X-Konten und fanden 7723 Konten mit KI-generierten Profilbildern.
Bildquelle: Das Bild wurde mit KI erstellt und von Midjourney lizenziert.
Diese Konten weisen auffällige Merkmale auf: wenige Follower, wenige abonnierte Konten, über die Hälfte wurde 2023 erstellt, und einige Konten wurden sogar innerhalb weniger Stunden massenhaft angelegt. Der Hauptautor der Studie, Jonas Ricker, weist darauf hin, dass dies deutlich zeigt, dass es sich nicht um echte Nutzer handelt. Nach neun Monaten Beobachtung hat X über die Hälfte dieser Konten gesperrt.
Bei einer manuellen Inhaltsanalyse von 1000 Konten mit KI-Profilbildern stellten die Forscher fest, dass sich die Inhalte hauptsächlich auf politische Themen konzentrierten, insbesondere auf Themen im Zusammenhang mit Trump, COVID-19-Impfstoffen und dem Krieg in der Ukraine. Auch Lotterie- und Finanzthemen (wie Kryptowährungen) tauchten häufig auf. Die Forscher vermuten, dass diese Konten speziell zur Verbreitung von Falschinformationen und politischer Propaganda erstellt wurden, da die massenhafte Kontoerstellung und die gleichen Metadaten auf ein organisiertes Netzwerk hindeuten.
Obwohl die Studie die Reichweite dieser Konten mit KI-Profilbildern nicht untersucht hat, deutet die geringe Anzahl von Followern und abonnierten Konten auf einen begrenzten Einfluss hin. Dies stimmt mit einer Studie von OpenAI überein, die ergab, dass Social-Media-Konten, die KI-generierte politische Propaganda verbreiten, nur wenig Resonanz erhalten und daher wenig effektiv sind. Das Forschungsteam plant, die Automatisierung der Erkennung von KI-Fake-Profilbildern in zukünftigen Analysen zu erweitern und neuere Modelle einzubeziehen, um die Auswirkungen dieser Technologie auf Social-Media-Plattformen besser zu verstehen.
Wichtigste Punkte:
📊 Die Studie zeigt, dass nur 0,052 % der X-Konten KI-generierte Profilbilder verwenden, wobei es sich meist um neu erstellte Konten handelt.
🗳️ Die Inhalte der Konten mit KI-Profilbildern beziehen sich hauptsächlich auf Politik, COVID-19 und Finanzthemen.
🔍 Die massenhafte Erstellung dieser Konten und die ähnlichen Metadaten deuten auf ein mögliches organisiertes Netzwerk zur Verbreitung von Falschinformationen hin.