Das in San Francisco ansässige KI-Startup Galileo hat ein neues Tool vorgestellt, das Nutzern hilft, Halluzinationen in großen Sprachmodellen (LLMs) besser zu verstehen und zu interpretieren. Galileo Studio bietet Echtzeit-Überwachung, mit der Benutzer Modell-Eingaben und -Ausgaben bewerten und neue Metriken und Schutzmaßnahmen zur Optimierung der LLM-Leistung erhalten.
Galileo führt einen „Grounding“-Index ein, der die Unterscheidung zwischen Halluzinationen und faktischen Modell-Ausgaben ermöglicht und sicherstellt, dass die Modell-Ausgabe nicht vom Kurs abweicht. Diese neuen Funktionen helfen Entwicklern, Modelle zu optimieren und die Genauigkeit und Konformität der Ausgaben zu gewährleisten.