Microsoft hat kürzlich ein Patent angemeldet, das darauf abzielt, durch eine technologische Methode die Verbreitung von durch künstliche Intelligenz (KI) generierten Falschinformationen zu reduzieren oder zu eliminieren. Das Patent mit dem Titel „Interaktion mit Sprachmodellen unter Verwendung von externem Wissen und Feedback“ wurde letztes Jahr beim United States Patent and Trademark Office (USPTO) eingereicht und am 31. Oktober veröffentlicht.
Der Kern dieses Vorschlags ist ein „Response Enhancement System“ (RAS) für KI-Modelle, das es ihnen ermöglicht, automatisch mehr Informationen basierend auf Benutzeranfragen abzurufen und die „Gültigkeit“ ihrer Antworten zu überprüfen.
Konkret kann das Response Enhancement System erkennen, ob Informationen aus „externen Quellen“ die Frage des Benutzers besser beantworten könnten. Wenn die KI-Antwort diese Informationen nicht enthält, stuft das System sie als nicht hilfreich ein. Darüber hinaus kann das RAS den Benutzer auf mögliche Mängel in der Antwort hinweisen, und der Benutzer kann Feedback geben. Der Vorteil dieses Ansatzes liegt darin, dass keine umfangreichen Anpassungen an bestehenden Modellen durch Entwickler oder Unternehmen erforderlich sind.
Derzeit ist die Patentnummer auf der USPTO-Website noch nicht aufgeführt, was bedeutet, dass das Patent noch geprüft wird. Wir haben Microsoft kontaktiert, um weitere Informationen zu erhalten, einschließlich der Frage, ob das Patent mit dem von Microsoft zuvor angekündigten Tool zur Reduzierung von KI-Halluzinationen – dem Azure AI Content Safety Tool – zusammenhängt. Dieses Tool bietet Unternehmen eine KI-gestützte Überprüfung für KI-Chatbots, die im Hintergrund Fakten überprüft und beurteilt, ob die KI-Antwort „unbegründet“ oder „begründet“ ist, und liefert nur Antworten mit tatsächlichen Daten, bevor sie dem Benutzer präsentiert werden.
KI-Halluzinationen stellen eine der größten Herausforderungen für generative KI-Systeme dar und beeinträchtigen die Glaubwürdigkeit von KI-Chatbots erheblich. In dieser Hinsicht haben KI-Systeme von Google und Twitter bereits bemerkenswerte Fehler produziert, z. B. die Empfehlung, Klebstoff auf Pizza zu streichen oder Steine zu essen, oder sogar die Verbreitung von Wahlfalschinformationen. Auch Apple-CEO Tim Cook räumte ein, dass Apples intelligente Technologien nicht vor Halluzinationen gefeit sind. Kürzlich wurde auch das OpenAI „Whisper“-Tool zur Audiotranskription häufig als halluzinierend identifiziert, was seine Verwendung in US-amerikanischen Krankenhäusern in Frage stellt.
Trotz der Herausforderungen durch KI-Halluzinationen ist die Nachfrage von Technologieunternehmen nach KI-Rechenzentren weiterhin stark. Unternehmen wie Google, Microsoft und Meta prüfen die Nutzung von Kernenergie als potenzielle Lösung für den hohen Energiebedarf von KI.
Wichtigste Punkte:
🔍 Microsoft meldet ein neues Patent an, um die Verbreitung von KI-generierten Falschinformationen zu reduzieren.
🤖 Der Kern des Patents ist die Einführung eines Response Enhancement Systems (RAS) für KI-Modelle, um automatisch mehr Informationen abzurufen.
⚡ Trotz der gravierenden Probleme mit KI-Halluzinationen ist die Nachfrage von Technologieunternehmen nach KI-Rechenzentren weiterhin stark.