Recientemente, Sony Music anunció que ha tomado medidas contra la gran cantidad de contenido musical falsificado generado por IA. Según los informes, Sony ha eliminado más de 75.000 canciones falsas generadas por IA relacionadas con artistas de su sello como Harry Styles. Los ejecutivos de Sony Music afirman que la cantidad de música falsa generada por IA podría ser solo la punta del iceberg, y que el contenido detectado hasta ahora solo representa algunos casos. Debido a que los mecanismos actuales de identificación y eliminación dependen principalmente de la revisión manual, la cantidad real de música generada por IA que llega al mercado podría ser mucho mayor que la cantidad eliminada. En resumen,

Xiaohongshu hat kürzlich eine Zwischenmitteilung zur Bekämpfung betrügerischer und illegaler Konten veröffentlicht, die zeigt, dass die Plattform in den letzten drei Monaten über 3,2 Millionen verstoßende Konten bearbeitet hat. Diese Aktion zielt darauf ab, kriminelle Organisationen zu unterbinden, die homogene Inhalte mit KI generieren, und das Community-Ökosystem zu schützen. Die Regulierungsarbeit von Xiaohongshu begann im November letzten Jahres und konzentriert sich auf die Bekämpfung von irreführender Werbung und betrügerischen Kontoführungspraktiken. Laut der Ankündigung von Xiaohongshu "Shu Guanjia" verbreiten diese kriminellen Organisationen in der Regel massenhaft ähnliche Film- und Fernseh Inhalte, um schnell Follower zu gewinnen, und verkaufen diese dann weiter.

Xiaohongshu hat kürzlich eine Aktualisierung seines "Zwischenberichts zur Bekämpfung illegaler Konten" veröffentlicht und die Entfernung von über 3,2 Millionen illegalen Konten in den letzten drei Monaten bekannt gegeben. Dem Bericht zufolge wurden bis zum 17. Februar 2023 vom "Shu Guanjia"-Team 401 Konten mit über 100.000 Followern und 9215 Konten mit über 10.000 Followern identifiziert und gesperrt. Dies zeigt den erheblichen Einfluss illegaler Konten in der Community. Xiaohongshu erklärte, dass die Bekämpfung illegaler Konten hauptsächlich auf zwei...

Am 18. Februar veröffentlichte Dianping den „Transparenzbericht 2024 zu Bewertungen“ und gab erstmals Einblicke in den Mechanismus der Bewertungsprüfung und die erzielten Ergebnisse. Der Bericht zeigt, dass die Plattform im Jahr 2024 durch ein mehrstufiges Prüfungssystem aus „KI+Mensch“ über 20 Millionen verstoßende Bewertungen bearbeitet, über 60.000 betroffene Händler bestraft und über 1,56 Millionen Fälle von „negativen Bewertungsanfragen“ abgewehrt hat. Um gefälschten Bewertungen und illegalen Aktivitäten wie Bewertungsmanipulation entgegenzuwirken, hat die Plattform vier Sicherheitsstufen aufgebaut: Technologien zum Schutz vor illegalen Aktivitäten, ein KI-basiertes automatisches Prüfverfahren mit Hunderten von Risikomodellen, ein Team zur manuellen Prüfung und ein Beschwerdeverfahren.

Metas Vorgehen beim Training von KI-Modellen steht aktuell stark in der Kritik. Laut einer Klage soll das Unternehmen massenhaft urheberrechtlich geschützte E-Books und Artikel ohne Genehmigung heruntergeladen haben, um seine KI-Modelle zu trainieren. Im Mittelpunkt stehen mehrere geleakte E-Mails, die Metas Vorgehen belegen. Diese zeigen, dass Meta den umstrittenen, riesigen Datensatz LibGen zugibt, der Millionen von Raubkopien von Büchern enthält. Laut Kläger...

Von Sprachassistenten bis hin zu selbstfahrenden Autos hat KI in den letzten Jahren viele Bereiche unseres Lebens durchdrungen. Die weitverbreitete Anwendung von KI-Technologien birgt jedoch auch Risiken, wobei Deepfake-Technologie besondere Aufmerksamkeit erregt. Diese Technologie nutzt Algorithmen, um hochrealistische gefälschte Inhalte zu generieren. Durch das Lernen aus großen Mengen echter Daten werden Videos oder Bilder erstellt, die Personen oder Szenen täuschend ähnlich sind. Obwohl diese Technologie die Leistungsfähigkeit von KI demonstriert, schafft sie gleichzeitig Raum für betrügerische Aktivitäten. So gab es kürzlich Fälle, in denen das Bild und die Stimme von Dr. Zhang Wenhong für Livestream-Verkäufe missbraucht wurden. Die Fälschung...

Fünf große kanadische Medienunternehmen haben kürzlich gemeinsam Klage gegen das KI-Unternehmen OpenAI eingereicht. Sie werfen OpenAI vor, ohne Erlaubnis urheberrechtlich geschützte Inhalte für das Training von ChatGPT verwendet zu haben. Zu den Medienunternehmen gehören Torstar, Postmedia, The Globe and Mail, die Canadian Press und CBC/Radio-Canada. Laut der Klage hat OpenAI bei der Entwicklung seines GPT-Modells...

Die Internet Watch Foundation (IWF) hat kürzlich vor einem „Kipppunkt“ bei der Zunahme von KI-generierten Bildern sexuellen Missbrauchs von Kindern (CSAM) im offenen Internet gewarnt. Die Aufsichtsbehörde für Sicherheit gab an, dass die Anzahl der in den letzten sechs Monaten entdeckten, von KI erstellten illegalen Inhalte die Gesamtzahl des Vorjahres bereits übertroffen hat. Bildquelle: KI-generiertes Bild, lizensiert über Midjourney. IWF-Interim-CEO Derek R...

Die rasante Entwicklung der künstlichen Intelligenz in den letzten Jahren hat bei Urheberrechtsinhabern weltweit große Sorgen hinsichtlich der möglichen missbräuchlichen Verwendung ihrer Werke ausgelöst. Um die Urheberrechte zu schützen, haben parteiübergreifende Senatoren einen Entwurf mit dem Titel "Gesetz zum Schutz der Quellen von Inhalten und zur Integrität von Deepfake-Medien" (COPIED-Gesetz) vorgelegt, der die Überprüfung und Erkennung von KI-generierten Inhalten vereinfachen und deren unbefugte Nutzung verhindern soll. Das Gesetz sieht vor, dass das National Institute of Standards and Technology (NIST) entsprechende Standards entwickeln wird...

Ein ehemaliger Vizepräsident von Stability AI behauptet, dass die Trainingsmethoden der meisten generativen KI-Modelle wahrscheinlich illegal sind. Die Verwendung nicht autorisierter Werke zum Trainieren von KI-Modellen wirft rechtliche Fragen zum Urheberrecht auf. KI-Technologien stellen die Grenzen des Urheberrechts auf die Probe, da das bestehende Recht die Besonderheiten von KI nicht ausreichend berücksichtigt. Newton-Rex argumentiert, dass Großbritannien die rechtlichen Anforderungen an KI-Trainingsmethoden klar definieren sollte.

Forscher von IBM haben eine relativ einfache Methode entdeckt, mit der sich generative KI-Tools für die Kaperung von Sprachanrufen verwenden lassen. Diese Entdeckung gibt Anlass zur Sorge für Organisationen wie Finanzinstitute, die sich auf telefonische Identitätsprüfung verlassen. Dies stellt eine besondere Bedrohung für Chatbots dar, da diese weiterhin anfällig sind. Mit kostengünstigen KI-Tools können Betrüger die Stimmen anderer leicht imitieren und so Geld und andere sensible Informationen stehlen. Audio-Kaperung ist eine neue Bedrohung, bei der Angreifer mit Sprachklonen laufende Gespräche manipulieren können.

TikTok veröffentlicht eine Bekanntmachung zur Bekämpfung illegaler Praktiken zur künstlichen Steigerung von Followerzahlen und Account-Pflege. Betroffene Praktiken umfassen die Verwendung von AIGC zur Fälschung, das Stehlen und Bearbeiten von Livestream-Inhalten anderer Nutzer sowie die Veröffentlichung von Schulungen unter falschem Namen. TikTok ergreift strenge Maßnahmen gegen Accounts, die durch diese Praktiken unrechtmäßig profitieren. Die Bekanntmachung listet verschiedene Verstöße und die entsprechenden Maßnahmen detailliert auf. TikTok wird bei der Bekämpfung schwerwiegender Verstöße mit den Strafverfolgungsbehörden zusammenarbeiten.

Die britische Regierung schlägt ein neues Online-Sicherheitsgesetz vor, das unter anderem den Einsatz von KI-basierten Technologien zur Altersüberprüfung für legale Pornografie umfasst. Geplante Methoden beinhalten Gesichtsaltersschätzung, Foto-Identitätsabgleich, Kreditprüfung und Open Banking. Überwachungsorganisationen und wirtschaftsliberale Thinktanks äußern Bedenken hinsichtlich der obligatorischen Altersverifizierung und warnen vor potenziellen Risiken für die Privatsphäre der Nutzer und erhöhter Gefahr von Datenlecks sensibler Daten. Gemäß dem neuen Online-Sicherheitsgesetz müssen Websites und Apps, die pornografische Inhalte anzeigen oder verbreiten, die Altersüberprüfung sicherstellen.

Gaurav Sharma, Gründer der Musik-Remix-App Hook, möchte mit Hilfe von KI Musikfans ermöglichen, legal Remix-Versionen ihrer Lieblingslieder zu erstellen und auf Plattformen wie TikTok zu teilen. Hook erlaubt Nutzern, maximal 60 Sekunden lange Song-Schnipsel auszuwählen und mit KI-Tools ihren eigenen Stil hinzuzufügen. Hook löst die Probleme von Urheberrechten und Vergütungen und ermöglicht es Kreativen, Musik mit KI zu erstellen, ohne Urheberrechte zu verletzen. Die App hat bereits eine Seed-Finanzierung von 3 Millionen US-Dollar erhalten.

Mit Morsecode, Caesar-Chiffre und anderen Verschlüsselungsmethoden lassen sich illegale Inhalte an GPT-4 übermitteln und Antworten erhalten. Ein Forschungsteam demonstrierte, wie diese Verschlüsselungsmethoden die Sicherheitsmechanismen großer Sprachmodelle umgehen und die Leistungsfähigkeit von GPT-4 aufzeigen. Mit dem Open-Source-Tool CipherChat kann die Widerstandsfähigkeit großer Sprachmodelle gegen verschlüsselte Anfragen bewertet werden.