Stellen Sie sich vor: Mit nur einem Foto können Sie innerhalb weniger Sekunden sehen, wie diese Person spricht, sich bewegt und sogar schauspielert – das ist der Reiz von ByteDance' OmniHuman-1. Dieses kürzlich im Internet bekannt gewordene KI-Modell erzeugt hochrealistische Videos, die Standbilder zum Leben erwecken. In Kombination mit Audiofragmenten ermöglicht es Lippensynchronisation, Ganzkörperbewegungen und ausdrucksstarke Gesichtsausdrücke. Im Gegensatz zu herkömmlichen Deepfake-Technologien beschränkt sich OmniHuman-1 nicht nur auf den Austausch von Gesichtern, sondern animiert den gesamten Körper.

Mit der rasanten Entwicklung der künstlichen Intelligenz gewinnen Deepfakes zunehmend an gesellschaftlicher Bedeutung. Um diesem neuen Problem zu begegnen, hat Kalifornien zu Beginn des neuen Jahres eine Reihe neuer Gesetze und Vorschriften erlassen, um die Regulierung von KI-generierten Deepfakes zu verstärken. Diese Gesetze werden soziale Medienplattformen, Content-Ersteller und die betroffenen Branchen beeinflussen und markieren eine neue Phase der Regulierung von KI-Anwendungen. Bildnachweis: Bild wurde mit KI erstellt, Bildlizenzierung über Midjourney. Ein wichtiges Gesetz erweitert die Maßnahmen gegen...

Von Sprachassistenten bis hin zu selbstfahrenden Autos hat KI in den letzten Jahren viele Bereiche unseres Lebens durchdrungen. Die weitverbreitete Anwendung von KI-Technologien birgt jedoch auch Risiken, wobei Deepfake-Technologie besondere Aufmerksamkeit erregt. Diese Technologie nutzt Algorithmen, um hochrealistische gefälschte Inhalte zu generieren. Durch das Lernen aus großen Mengen echter Daten werden Videos oder Bilder erstellt, die Personen oder Szenen täuschend ähnlich sind. Obwohl diese Technologie die Leistungsfähigkeit von KI demonstriert, schafft sie gleichzeitig Raum für betrügerische Aktivitäten. So gab es kürzlich Fälle, in denen das Bild und die Stimme von Dr. Zhang Wenhong für Livestream-Verkäufe missbraucht wurden. Die Fälschung...

Kürzlich wurde auf der 12. Konferenz für digitales Finanzwesen und Technologiefinanzierung, einer Veranstaltung der Zhongguancun-Forum-Reihe, die Deepfake-Erkennungslösung von Ant Group als „innovatives Anwendungsbeispiel der Finanztechnologie“ ausgezeichnet. Ant Group hat, gestützt auf sein Tianji-Labor, erstmalig einen groß angelegten, qualitativ hochwertigen und multimodalen Deepfake-Datensatz erstellt. Dieser umfasst über eine Million synthetisierter Multimedia-Inhalte und simuliert umfassend Deepfake-Angriffe in realen Finanzrisikomanagementumgebungen. Er dient als Benchmark für die Bewertung bestehender Deepfake-Erkennungsmethoden im Finanzbereich.

Meta hat kürzlich ein neues neuronales Wasserzeichensystem namens Video Seal veröffentlicht, das bei der Identifizierung von KI-generierten Videos helfen soll, selbst wenn die Videos bearbeitet wurden. Dieses Wasserzeichen ist für Zuschauer unsichtbar, kann aber zur Überprüfung der Echtheit des Videos verwendet werden. Meta veröffentlicht das gesamte System als Open-Source-Software unter der MIT-Lizenz, einschließlich des Video Seal-Wasserzeichenmodells, der Forschungsarbeit sowie des Trainings- und Inferenzcodes. Darüber hinaus hat Meta auch...

Ein kürzlich im Internet kursierendes Video hat große Aufmerksamkeit erregt. Es zeigt ein Konto, das Zhang Wenhong imitiert und Proteinriegel im Livestream verkauft. Viele Nutzer fragten sich: „Macht Zhang Wenhong Werbung?“. Besorgniserregender ist, dass einige ältere Zuschauer das Video für echt hielten, Bestellungen aufgaben und die Information in sozialen Gruppen verbreiteten. Nach Recherchen von Journalisten stellte sich heraus, dass der Zhang Wenhong im Video nicht echt ist, sondern ein Deepfake, der mithilfe von KI-Technologie erstellt wurde. Zhang Wenhong reagierte darauf und erklärte, dass es nicht nur ein solches Werbekonto gibt, sondern…

Deepfakes sind mittlerweile allgegenwärtig. Mit der Verbreitung generativer KI nimmt die Menge an gefälschten Inhalten im Internet explosionsartig zu. Laut dem Identifizierungsplattform Sumsub hat sich die Anzahl der Deepfakes von 2023 bis 2024 vervierfacht. Im Jahr 2024 machten Deepfakes 7 % aller Betrugsfälle aus – von Identitätsdiebstahl und Kontoübernahmen bis hin zu komplexen Social-Engineering-Angriffen sind Deepfakes an allen beteiligt. Um Deepfakes effektiv zu bekämpfen, hat Meta...

Mit der Verbreitung von Deepfake-Technologie nimmt die Menge an gefälschten Inhalten im Internet sprunghaft zu. Laut dem ID-Verifizierungsplattform Sumsub hat sich die Anzahl der Deepfakes von 2023 bis 2024 vervierfacht, wobei Deepfake-Inhalte im Jahr 2024 7 % aller Betrugsfälle ausmachten. Dazu gehören verschiedene Formen wie Identitätsdiebstahl, Kontoübernahmen und komplexe Social-Engineering-Angriffe. Um dieser Herausforderung zu begegnen, hat Meta kürzlich ein neues Wasserzeichen-Tool namens Meta Video Seal veröffentlicht, das darauf abzielt, KI-generierte

Mit der Kommerzialisierung generativer KI hat die Menge an Falschinformationen im Internet dramatisch zugenommen. Daten der Identifikationsplattform Sumsub zeigen, dass die Zahl der Deepfakes weltweit von 2023 bis 2024 um das Vierfache gestiegen ist. Im Jahr 2024 machten Deepfakes 7 % aller Betrugsfälle aus und umfassten verschiedene Formen, von Identitätsdiebstahl und Kontoübernahmen bis hin zu komplexen Social-Engineering-Aktivitäten. Um diesem Problem zu begegnen, hat Meta ein neues Tool veröffentlicht – Meta Video Seal – das darauf abzielt, AI-generierte Videos mit einem unsichtbaren Wasserzeichen zu versehen.

Der Kommunikationswissenschaftler Jeff Hancock von der Stanford University steht im Mittelpunkt einer hitzigen Debatte. Ihm wird vorgeworfen, in einem Fall mit politischen Deepfake-Videos künstliche Intelligenz zur Fälschung von Aussagen verwendet zu haben. Die Klage wurde von Keith Ellison, dem Generalstaatsanwalt von Minnesota, im Zusammenhang mit einem kürzlich verabschiedeten Gesetz gegen politische Deepfakes in Minnesota eingereicht, das als potenzielle Bedrohung der Meinungsfreiheit angesehen wird. Bildquelle: KI-generiertes Bild, Midjourney.

Ein in Minnesota anhängiges Verfahren über ein Gesetz gegen die Beeinflussung von Wahlen mittels Deepfake-Technologie ist in neue Kontroversen geraten. Die Anwälte der Kläger behaupten in aktuellen Gerichtsdokumenten, dass eidesstattliche Versicherungen zur Unterstützung des Gesetzes möglicherweise KI-generierte Texte enthalten. Bildhinweis: Bild von KI generiert, Bildlizenzgeber Midjourney. Berichten des "Minnesota Reformer" zufolge hatte der Generalstaatsanwalt des Bundesstaates, Keith Ellison, das Stanford Internet Observatory um Unterstützung gebeten.

Nach der US-Präsidentschaftswahl 2024 verbreiteten sich Falschinformationen im Internet mit alarmierender Geschwindigkeit und beeinflussten die öffentliche Meinung zu Kandidaten sowie zu Themen wie öffentliche Gesundheit, Klimawandel und Migration. Die Entwicklung generativer KI, gepaart mit ihrer Fähigkeit, Deepfakes zu erstellen und „halluzinierte“ Fakten zu produzieren, könnte dieses Problem noch verschärfen. Bildhinweis: Bild wurde mit KI erstellt, Bildlizenzanbieter Midjourney Um dieser Herausforderung zu begegnen, wurde das norwegische Startup Factiverse gegründet. Das Unternehmen nahm an 10...

Singapur hat kürzlich wichtige Ankündigungen zur Cybersicherheit veröffentlicht, insbesondere Sicherheitsrichtlinien für KI-Systeme und ein Gesetz, das die Verwendung von Deepfakes in Wahlwerbung verbietet. Diese Maßnahmen sollen Organisationen dabei unterstützen, potenzielle Risiken bei der Entwicklung und Implementierung von KI zu mindern und die Sicherheit der Technologie zu gewährleisten. Bildquelle: KI-generiertes Bild, Lizenzgeber Midjourney. Die von der Cybersecurity Agency of Singapore (CSA) herausgegebenen „Sicherheitsrichtlinien für KI-Systeme“ betonen das Konzept von „Security by Design“ und zielen darauf ab...

Zoom bereitet sich darauf vor, Nutzern eine beeindruckende neue Funktion anzubieten, doch wir müssen uns möglicherweise bis zum nächsten Jahr gedulden, um sie zu sehen. Auf seiner jährlichen Entwicklerkonferenz kündigte der Videokonferenzriese an, eine Funktion einzuführen, die Benutzervideos in realistische, KI-gesteuerte digitale Avatare umwandeln kann. Dieser digitale Avatar umfasst nicht nur den Kopf, sondern auch Oberarme und Schultern – ein echter "digitaler Zwilling". Der Benutzer muss lediglich den gewünschten Text eingeben, und Zoom generiert ein synchronisiertes Audio mit den Lippenbewegungen des Avatars. Klingt fantastisch, nicht wahr? Zooms Chief Product Officer...

KI-Technologie ist ein zweischneidiges Schwert: Sie bietet Vorteile, birgt aber auch Risiken. Um diese Risiken besser zu managen, hat der kalifornische Gouverneur Gavin Newsom kürzlich neun Gesetze unterzeichnet, die sich speziell mit KI-generierten Inhalten, insbesondere mit Deepfakes, befassen. Bildquelle: Bild wurde mit KI erstellt, Bildlizenzgeber Midjourney. Unter diesen Gesetzen ist der Gesetzentwurf SB1047 besonders hervorzuheben. Er verpflichtet KI-Entwickler, Sicherheitsmaßnahmen zu ergreifen, um...

Der kalifornische Gouverneur Gavin Newsom hat kürzlich acht Gesetze unterzeichnet, die sich mit den Herausforderungen im Bereich der Künstlichen Intelligenz befassen. Diese Gesetze zielen darauf ab, die mit KI-Systemen verbundenen existenziellen Risiken, Deepfake-Nacktbilder von KI-Bildgeneratoren und die Erstellung von KI-Klonen von verstorbenen Schauspielern durch Hollywood-Studios zu adressieren. SB926 beispielsweise kriminalisiert die Herstellung und Verbreitung von Deepfake-Nacktbildern und erklärt die Erpressung mit KI-generierten Nacktbildern, die einer anderen Person ähneln, als illegal. SB981 verpflichtet Social-Media-Plattformen, Kanäle für die Meldung von Inhalten einzurichten, die...

Bei einer kürzlich stattgefundenen Zeremonie unterzeichnete Gouverneur Gavin Newsom von Kalifornien eine Reihe von Gesetzen zur Regulierung der KI-Branche, die im nationalen Vergleich als relativ streng gelten. Die neuen Regelungen umfassen fünf Punkte, von denen drei sich speziell auf potenziell wahlbeeinflussende KI-Deepfakes beziehen, während sich die anderen beiden auf das Klonen von Stimmen und Bildern von Hollywood-Schauspielern konzentrieren. Bildquelle: KI-generiertes Bild, Bildlizenzgeber Midjourney. Das neue Gesetz AB2655 verpflichtet große Online-Plattformen...

Mehrere große US-amerikanische KI-Unternehmen haben dem Weißen Haus erneut feierlich versichert, dass sie verhindern werden, dass ihre KI-Produkte zur Erstellung nicht-einvernehmlicher Deepfake-Porno-Inhalte und von Kinderpornografie verwendet werden. Sechs Unternehmen, darunter Adobe, Anthropic, Cohere, Microsoft, OpenAI und das Open-Source-Webdatenarchiv Common Crawl, haben diese unverbindliche Zusage unterzeichnet, um sicherzustellen, dass ihre Produkte nicht missbraucht werden, um schädliche Bilder sexueller Gewalt zu erzeugen.

Deepfakes und synthetische Medien werden durch die Entwicklung von Generativer KI (gen AI) immer häufiger. Um dieser Herausforderung zu begegnen, arbeiten viele Organisationen an der Verbesserung von digitalen Wasserzeichen-Technologien, um die Herkunft von Inhalten zu verfolgen. Obwohl noch keine Organisation vollständig erfolgreich ist, erweitert die „Content Authenticity Initiative“ (C2PA) ihre Mitgliederzahl. C2PA gab bekannt, dass Amazon neues Mitglied des Lenkungsausschusses der Organisation geworden ist. C2PA ist ein offener Technologie-Standard, der unter der Schirmherrschaft der Linux Foundation steht.

Mit dem Fortschritt der künstlichen Intelligenz wird die Fälschung von Bildern und Videos immer einfacher, und das Phänomen der Deepfakes nimmt immer mehr zu. Die Erkennung dieser falschen Inhalte ist zu einem dringenden Problem geworden. Ein Forschungsteam der Binghamton University hat sich kürzlich eingehend mit diesem Thema befasst. Sie nutzten die Frequenzanalyse, um die Merkmale von KI-generierten Bildern aufzuzeigen und so die Identifizierung falscher Informationen zu ermöglichen. Bildquelle: Bild wurde mit KI generiert, Bildlizenzgeber Midjourney. Die Studie wurde von der Fakultät für Elektrotechnik und Informatik durchgeführt.