Ein Forschungsbericht der Stanford University zeigt, dass den Entwicklern der größten KI-Basismodelle weltweit an Transparenz mangelt. Meta's Llama 2 schneidet dabei am besten ab. Transparenz ist jedoch ein weit gefasster Begriff, der weiterhin Beachtung verdient.
Die Studie hebt die Herausforderungen der KI-Branche im Bereich Transparenz hervor und könnte Regierungen und Unternehmen dazu bewegen, mehr transparente Informationen bereitzustellen.
Am 18. Februar veröffentlichte Dianping den „Transparenzbericht 2024 zu Bewertungen“ und gab erstmals Einblicke in den Mechanismus der Bewertungsprüfung und die erzielten Ergebnisse. Der Bericht zeigt, dass die Plattform im Jahr 2024 durch ein mehrstufiges Prüfungssystem aus „KI+Mensch“ über 20 Millionen verstoßende Bewertungen bearbeitet, über 60.000 betroffene Händler bestraft und über 1,56 Millionen Fälle von „negativen Bewertungsanfragen“ abgewehrt hat. Um gefälschten Bewertungen und illegalen Aktivitäten wie Bewertungsmanipulation entgegenzuwirken, hat die Plattform vier Sicherheitsstufen aufgebaut: Technologien zum Schutz vor illegalen Aktivitäten, ein KI-basiertes automatisches Prüfverfahren mit Hunderten von Risikomodellen, ein Team zur manuellen Prüfung und ein Beschwerdeverfahren.
IBM präsentiert Watsonx Governance, um Unternehmen bei der Verbesserung der Transparenz von KI-Modellen zu unterstützen. Watsonx Governance bietet Tools zur Risikomanagement und Verbesserung der Transparenz. IBM erweitert seine Beratungsdienste um strategisches Know-how, um Kunden bei der Umsetzung verantwortungsvoller KI zu unterstützen. Watsonx Governance ist eines von drei neuen Softwareprodukten der Watsonx KI-Plattform. IBM kündigt außerdem Erweiterungen für seine Watsonx-
Forscher in Zusammenarbeit mit MIT, Cohere for AI und anderen Institutionen veröffentlichen die Data Provenance Platform, um das Problem der Datentransparenz in der KI zu lösen. Geprüft und verfolgt wurden über 2000 weit verbreitete, feinabgestimmte Datensätze, um die Bedeutung von Datentransparenz hervorzuheben. Unzureichende Rückverfolgbarkeit von Datensätzen kann zu Datenlecks, Offenlegung persönlicher Informationen, Verzerrungen und rechtlichen Risiken führen. Die Data Provenance Platform soll die Transparenz von KI-Daten verbessern und die Qualität von Datensätzen erhöhen.
