Heutzutage ist die Erstellung gefälschter Inhalte durch KI keine Seltenheit mehr. Ein Mann wurde jedoch verhaftet, weil er mit KI-Technologie ein Video synthetisiert und falsche Informationen verbreitet hatte. Dies warnt uns alle davor, KI-Tools vorsichtig zu verwenden, um negative Konsequenzen zu vermeiden.
Berichten zufolge erhielt die Polizei in Xiamen im Juni dieses Jahres eine Anzeige wegen eines Videos, das auf der Plattform „Toutiao“ veröffentlicht wurde. Das Video zeigte angeblich einen über 70-jährigen Mann in Guangdong, der geschlagen wurde, woraufhin sein Enkel in den Fluss sprang und Selbstmord beging. Der Schläger wurde angeblich verurteilt. Das Video erregte sofort große Aufmerksamkeit.
Die polizeilichen Ermittlungen ergaben jedoch, dass es sich um eine reine Falschmeldung handelte. Der Besitzer des Accounts „Xiaoyi schaut auf die Welt“, Ren Mou (32 Jahre alt, aus Hubei), wurde am Abend des 13. Juni verhaftet.
Ren Mou gab zu, mit KI-Technologie innerhalb von zwei bis drei Minuten ein Video synthetisieren zu können. Er suchte zunächst im Internet nach aufmerksamkeitsstarken Titeln, ließ dann mit einer Schreib-App automatisch falsche Inhalte generieren, erstellte anhand dieser Inhalte automatisch Bilder und kombinierte schließlich alles zu einem Video, das er über soziale Medien verbreitete.
Sein Ziel war es, Traffic zu generieren, seine Follower-Zahl zu erhöhen und mit den Videoaufrufen Geld zu verdienen. Ren Mou wird wegen des Verdachts auf Rowdytum von der Polizei in Xiamen strafrechtlich verfolgt.