Kürzlich sorgte ein Video im Internet für große Aufmerksamkeit. Es zeigt ein Konto, das Zhang Wenhong imitiert und Proteinriegel im Livestream verkauft.
Viele Nutzer fragten sich: „Macht Zhang Wenhong Werbung?“ Besonders besorgniserregend ist, dass einige ältere Zuschauer das Video für echt hielten, Bestellungen aufgaben und die Informationen in sozialen Gruppen weiterverbreiteten. Nach Recherchen von Journalisten stellte sich heraus, dass es sich bei dem „Zhang Wenhong“ im Video um eine Deepfake-Erstellung mittels KI handelt.
Zhang Wenhong reagierte darauf und erklärte, dass es nicht nur ein solches Werbekonto gebe, sondern mehrere, die sich ständig ändern. Er habe bereits mehrfach bei den Plattformen Beschwerde eingelegt. Dies dauere schon seit einigen Wochen an. Besonders ältere Menschen, die mit KI nicht so vertraut sind, fallen leicht darauf herein.
Mit der Entwicklung der künstlichen Intelligenz verändert sich auch die Form des Livestream-Marketings ständig. Heutzutage kann KI extrem realistische Gesichter und Stimmen erzeugen. Kriminelle nutzen diese Technologie zur Betrugsmasche. Kürzlich wurde auch die Stimme eines bekannten Unternehmers mit KI synthetisiert und im Internet verbreitet, was große Auswirkungen hatte. Der KI-generierte Zhang Wenhong im Livestream war sehr überzeugend, obwohl die Technologie noch nicht perfekt ist, wurden dennoch viele Menschen getäuscht.
Dieser Vorfall lenkt die Aufmerksamkeit der Öffentlichkeit auf die Echtheit von Informationen, insbesondere bei älteren Menschen, deren Verständnis neuer Technologien oft hinterherhinkt und die daher anfälliger für Betrug sind. Aber nicht nur ältere Menschen, jeder kann durch KI-generierte Falschinformationen in die Irre geführt werden. Wir können uns nicht allein auf das individuelle Urteilsvermögen verlassen, um diese falschen Informationen zu erkennen. Daher sind entsprechende technische Schutzmaßnahmen besonders wichtig.
Das Konto, das Zhang Wenhong imitierte, gab im Livestream seine Identität nicht klar an und sendete nur mitten in der Nacht. Diese Geheimhaltung zeigt, wie effektiv die Bemühungen der Plattformen zur Bekämpfung von KI-Missbrauch sind. Obwohl die KI-Technologie viele Vorteile bietet, stellt sie die Gesellschaft auch vor neue Herausforderungen. Um auf zukünftige Fälschungen vorbereitet zu sein, ist der Aufbau eines umfassenderen Risikomanagement-Systems dringend erforderlich.
Wichtigste Punkte:
🌐 Ein KI-generierter Zhang Wenhong verkauft im Livestream Produkte und sorgt für Diskussionen. Einige Nutzer glaubten an seine Identität.
🔍 Die mangelnde Vertrautheit der Öffentlichkeit mit neuen Technologien macht sie anfällig für Falschinformationen.
🛡️ Die Stärkung technischer Schutzmaßnahmen und Informationsüberwachungsmechanismen sowie die Verbesserung der Fähigkeit der Öffentlichkeit zur Erkennung von Falschinformationen sind von entscheidender Bedeutung.