Im Zeitalter des rasanten Fortschritts der künstlichen Intelligenz (KI) treten KI-„Halluzinationen“ immer häufiger auf und bereiten vielen Unternehmen erhebliche Probleme. Kundenservice-Chatbots beschreiben selbstbewusst nicht existierende Produkte, Finanz-KIs erfinden Marktdaten und medizinische Roboter geben gefährliche medizinische Ratschläge. Diese Probleme sind keine bloßen Kuriositäten mehr, sondern stellen eine erhebliche Gefahr für den Ruf und die Rentabilität von Unternehmen dar.
Um dieser Herausforderung zu begegnen, hat das in San Francisco ansässige Startup Patronus AI die weltweit erste Self-Service-Plattform vorgestellt, die darauf abzielt, KI-Systemfehler in Echtzeit zu erkennen und zu verhindern. Diese Plattform ist so etwas wie eine „Rechtschreibprüfung“ für KI-Systeme und kann Probleme beheben, bevor sie auftreten.
Anand Kannappan, CEO von Patronus AI, erklärte in einem Interview, dass viele Unternehmen in der Produktion mit KI-Fehlern konfrontiert sind, darunter Halluzinationen, Sicherheitslücken und unvorhersehbares Verhalten. Laut Unternehmensforschung besteht bei führenden KI-Modellen wie GPT-4 eine Wahrscheinlichkeit von 44 %, urheberrechtlich geschützte Inhalte zu wiederholen, und selbst fortschrittliche Modelle erzeugen in grundlegenden Sicherheitstests in über 20 % der Fälle unsichere Antworten.
Um Unternehmen bei der Verbesserung der Sicherheit ihrer KI-Systeme zu unterstützen, bietet Patronus AI eine Reihe innovativer Funktionen. Die bemerkenswerteste Funktion, der „Evaluator“, ermöglicht es Unternehmen, benutzerdefinierte Bewertungsregeln in einfachem Englisch zu schreiben. Diese Flexibilität ermöglicht es Unternehmen aus allen Branchen, Anpassungen an ihre individuellen Bedürfnisse vorzunehmen. So können sich Finanzdienstleistungsunternehmen auf die Compliance konzentrieren, während medizinische Einrichtungen den Schwerpunkt auf den Schutz der Patientendaten und die medizinische Genauigkeit legen.
Das Herzstück der Plattform ist das bahnbrechende Halluzinationserkennungsmodell namens Lynx, das bei der Erkennung medizinischer Ungenauigkeiten eine um 8,3 % höhere Genauigkeit aufweist als GPT-4. Darüber hinaus bietet die Plattform zwei Betriebsmodi: einen für die Echtzeitüberwachung und einen für die detaillierte Analyse. Neben der traditionellen Fehlerprüfung hat das Unternehmen auch spezielle Tools wie CopyrightCatcher (Urheberrechtsprüfung) und FinanceBench (Benchmark für die Finanzleistung) entwickelt, um Unternehmen einen umfassenden Schutz vor KI-Fehlern zu bieten.
Um auch kleineren Unternehmen den Zugang zu diesen Sicherheitswerkzeugen zu ermöglichen, verwendet Patronus AI ein Pay-as-you-go-Preismodell mit einem Startpreis von 10 US-Dollar pro 1000 API-Aufrufen. Zu den Early Adoptern gehören bereits große Unternehmen wie HP, AngelList und Pearson, was die Bedeutung von Investitionen in die KI-Sicherheit unterstreicht.
Im Zeitalter des rasanten KI-Fortschritts können Tools wie die Plattform von Patronus AI nicht nur dazu beitragen, das Risiko für Unternehmen zu senken, sondern auch dazu, die kommenden gesetzlichen Bestimmungen einzuhalten. Mit der Weiterentwicklung von KI-Systemen wird die genaue Erkennung und Korrektur dieser „Halluzinationen“ eine wichtige Herausforderung für Unternehmen darstellen.
Produktzugang: https://www.patronus.ai/
Wichtigste Punkte:
🌟 Patronus AI präsentiert die weltweit erste Self-Service-API zur Echtzeit-Erkennung und -Prävention von KI-Halluzinationen.
🛡️ Die Plattform ermöglicht es Unternehmen, benutzerdefinierte Bewertungsregeln in einfachem Englisch zu erstellen und bietet flexible Lösungen.
💰 Es wird ein Pay-as-you-go-Modell verwendet, um KI-Sicherheitswerkzeuge für mehr Unternehmen erschwinglich zu machen.