Laut einem Bericht der Southern Metropolis Daily hat das Cyberspace Administration Bureau des chinesischen Ministeriums für öffentliche Sicherheit kürzlich einen typischen Fall veröffentlicht, der ein besorgniserregendes neues Muster der Online-Falschmeldungen aufzeigt. Die公安机关 in Guangzhou, Guangdong, haben eine kriminelle Vereinigung erfolgreich aufgedeckt, die mit Hilfe von KI-Tools massenhaft Falschinformationen produziert hat, und sechs Verdächtige festgenommen.
Die kriminelle Vereinigung hatte zum Ziel, Einnahmen durch den Traffic auf Online-Plattformen zu generieren, und verwendete dabei sorgfältig geplante kriminelle Methoden: Sie warben Teilzeitkräfte an, die Social-Media-Konten anmeldeten und mit KI-Tools schnell beliebte Artikel umschrieben und massenhaft Falschinformationen veröffentlichten. Schätzungen zufolge hat die Gruppe über 500.000 Beiträge mit irreführenden Bildern und Texten veröffentlicht und so die Online-Informationen schwerwiegend verunreinigt.
Bildquelle: Das Bild wurde mit KI generiert und von Midjourney lizenziert.
Die Untersuchung ergab, dass Kriminelle leicht Zugang zu verschiedenen KI-Schreibwerkzeugen erhalten können. Diese Tools bieten vielfältige Funktionen, darunter die schnelle Erstellung von Artikeln für öffentliche Konten, Videoskripten, Social-Media-Texten sowie das Fortsetzen von Artikeln, das Umschreiben von Inhalten und das Generieren von Bildern. Erschreckend ist, dass einige Premium-Dienste extrem günstig sind: Monatlich nur 99 Yuan, mit Jahresabonnement sogar zum halben Preis.
Fang Yu, Experte der Chinesischen Gesellschaft für Informatik, weist darauf hin, dass die Kosten für die Erstellung von Gerüchten mit KI-Tools für Kriminelle extrem niedrig sind. Mit der zunehmenden Verbreitung von Open-Source-Algorithmen für große Sprachmodelle und der fortschreitenden Entwicklung der KI-Technologie sinkt die Schwelle für Kriminelle, auf diese Tools zuzugreifen und sie zu verwenden, stetig.
Dieser Fall zeigt nicht nur das erhebliche Risiko des Missbrauchs von KI-Technologie auf, sondern unterstreicht auch die Dringlichkeit der Bekämpfung von Online-Falschmeldungen und der Wahrung der Ordnung der Online-Informationen. Die erfolgreiche Aufklärung durch die Polizeibehörden liefert ein starkes Beispiel für die Eindämmung von KI-bezogener Kriminalität.