Ein kürzlich entdeckter Fehler im Ollama-Tool für große Sprachmodelle stellt ein erhebliches Sicherheitsrisiko dar. Experten warnen vor potenziellen Datenlecks und anderen schwerwiegenden Folgen. Die Entwickler arbeiten an einer Lösung.

Ein KI-Transkriptionstool, das auf der Whisper-Technologie von OpenAI basiert, erfreut sich in der Gesundheitsbranche zunehmender Beliebtheit. Viele Ärzte und medizinische Einrichtungen nutzen dieses Tool zur Aufzeichnung und Zusammenfassung von Patientengesprächen. Laut einem Bericht von ABC News haben Forscher jedoch festgestellt, dass das Tool in einigen Fällen "Halluzinationen" aufweist und manchmal sogar völlig frei erfundene Inhalte produziert. Das von der Firma Nabla entwickelte Transkriptionstool hat bereits über 7 Millionen medizinische Gespräche transkribiert und wird derzeit von über 30.000 Nutzern verwendet.

Eine kürzlich von Apple durchgeführte Studie zur Schlussfolgerungsfähigkeit großer Sprachmodelle (LLMs) hat Bedenken hinsichtlich der Leistung dieser Modelle im mathematischen Bereich aufgeworfen. Der GSM8K-Benchmark wird bekanntlich häufig verwendet, um die Fähigkeit von Modellen zur Lösung mathematischer Probleme der Grundschule zu bewerten. Obwohl die Leistung von LLMs bei GSM8K in den letzten Jahren zugenommen hat, haben Forscher die Zuverlässigkeit dieser Ergebnisse in Frage gestellt. Daher führten sie eine groß angelegte Studie durch, um die Leistung der aktuell fortschrittlichsten Open-Source- und Closed-Source-Modelle zu untersuchen. Um die Modelle besser bewerten zu können

Die Polizei in Xiamen hat kürzlich einen Fall aufgedeckt, in dem mit KI-Technologie gefälschte Videos erstellt und verbreitet wurden. Ein Mann, Ren Mou (32 Jahre alt, aus Hubei), wurde wegen des Verdachts der Verbreitung falscher Informationen verhaftet. Ren Mou erstellte mithilfe automatischer Generierung von falschen Inhalten und Bildern und synthetisierte diese dann mit KI-Technologie zu einem Video, das er auf Top-Nachrichten veröffentlichte. Das Video enthielt ein Gerücht über einen in Guangdong geschlagenen alten Mann und den Selbstmord seines Enkels durch Ertrinken und erregte große Aufmerksamkeit. Sein Ziel war es, seine Follower-Anzahl und den Traffic zu erhöhen, um Gewinne zu erzielen. Ren Mou gab zu, dass die Erstellung des Videos mit KI-Technologie nur zwei bis drei Minuten dauerte. Die Polizei hat bereits Zwangsmaßnahmen gegen Ren Mou ergriffen. Dieser Vorfall dient als Warnung...

Rabbit und sein R1 KI-Gadget geraten erneut in Schwierigkeiten. Diesmal ist es noch schlimmer als die Entdeckung, dass der Launcher tatsächlich als Android-Anwendung installiert werden kann.

Sora weist mehrere schwerwiegende Mängel auf und kann keine perfekten Videoclips generieren. Die Trainingsdaten von Sora stammen von Shutterstock, mit dem OpenAI eine Datenpartnerschaft geschlossen hat. Sora benötigt enorme Rechenleistung und wird vorerst nicht auf den Markt kommen. Das Ziel ist es, den Rechenleistungsbedarf zu senken. Sora wird letztendlich Videos mit Ton generieren; die Sicherheit steht dabei im Fokus.

Patronus AI veröffentlicht Urheberrechtsprüfungstool; OpenAIs GPT-4 wird als schwerwiegendster Urheberrechtsverletzer genannt; Microsoft-Ingenieure weisen darauf hin, dass KI-Bildgenerierungswerkzeuge eine Gefahr für die Gesellschaft darstellen könnten.

Große Sprachmodelle (LLMs) zeigen in logischen Schlussfolgerungsaufgaben eine Abhängigkeit von der Reihenfolge der Prämissen. Eine veränderte Reihenfolge führt zu Leistungseinbußen von bis zu 30%. Die Änderung der Reihenfolge der Prämissen hat einen erheblichen Einfluss auf die Leistung großer Modelle bei der Schlussfolgerung. Pro und GPT-3.5-Turbo zeigen Leistungseinbrüche. LLMs weisen bei logischen Schlussfolgerungen aufgrund von Änderungen in der Reihenfolge der Prämissen erhebliche Leistungseinbußen auf, die weiterer Forschung bedürfen. Die Reihenfolge der Prämissen hat einen entscheidenden Einfluss auf die Leistung großer Sprachmodelle bei logischen Schlussfolgerungen und stellt nach wie vor eine Herausforderung dar. Forscher von Google DeepMind und Stanford haben festgestellt, dass große Sprachmodelle...

Eine Sicherheitslücke in der GPT-4 API wurde entdeckt. Ein Team des FARAI-Labors hat es geschafft, dieses fortschrittliche Modell durch Feinabstimmung, Funktionsaufrufe und Suchverbesserungen zu umgehen. Durch Feinabstimmung mit 15 schädlichen und 100 gutartigen Beispielen stellten die Forscher fest, dass GPT-4 bei der Inhaltsgenerierung Sicherheitsvorkehrungen möglicherweise außer Kraft setzt. Die Forscher konnten das GPT-4-Modell dazu bringen, Fehlinformationen zu generieren, private Informationen zu extrahieren und schädliche URLs einzufügen. Die Feinabstimmung des Modells kann zu einer erheblichen Verzerrung, der Generierung von schädlichem Code und sogar zum Abrufen nicht öffentlich zugänglicher Informationen führen.

OpenAI gab bekannt, dass ChatGPT für 40 Minuten zeitweise nicht verfügbar war und jetzt wieder funktioniert. ChatGPT-Business-Nutzer berichteten von erhöhten Fehlerraten, ohne jedoch Einzelheiten zu nennen. ChatGPT hat den Rekord für die am schnellsten wachsende Verbraucheranwendung aufgestellt.

Eine von Googles DeepMind-Team und anderen Teams gemeinsam veröffentlichte Studie behauptet, KI könne selbstständig synthetische Verbindungen erstellen, was breite Diskussionen ausgelöst hat. Ein Chemieprofessor der Universität London hat jedoch schwerwiegende Mängel in der Veröffentlichung aufgedeckt und auf Probleme bei der Materialcharakterisierung hingewiesen.

Der Silicon Valley Venture-Capital-Bereich sieht große Chancen für generative KI in B2B-Anwendungen. Große Sprachmodelle bieten größere Geschäftsmöglichkeiten im B2B-Bereich. Die Datenqualität ist die größte Hürde für Gründer im Bereich generative KI. Der Gesundheitssektor ist das vielversprechendste vertikale Anwendungsgebiet. C2C-Anwendungen stehen vor Herausforderungen durch Datenqualität und Homogenisierung.

Der US-Medienkonzern Gannett hat die Verwendung eines KI-Tools zum Schreiben von Highschool-Sportberichten ausgesetzt. Mehrere von dem KI-Dienst LedeAI verfasste Artikel enthielten schwerwiegende Fehler. Gannett hatte im Juni die Einführung von generativer KI angekündigt, allerdings unter menschlicher Aufsicht.