omni-moderation-latest ist ein auf GPT-4o basierendes, multimodaler Inhaltsprüfungsmodell der nächsten Generation. Es ermöglicht eine genauere Erkennung schädlicher Inhalte in Text und Bildern und hilft Entwicklern beim Aufbau robusterer Prüfsysteme. Das Modell unterstützt Text- und Bildeingaben und liefert besonders bei nicht-englischen Sprachen präzisere Ergebnisse. Es bewertet Inhalte auf Übereinstimmung mit Kategorien wie Hassreden, Gewalt und Selbstverletzung und bietet eine detailliertere Steuerung der Prüfentscheidungen. Zusätzlich liefert es Wahrscheinlichkeitsscores, die die Übereinstimmung des Inhalts mit den erkannten Kategorien widerspiegeln. Das Modell steht allen Entwicklern kostenlos zur Verfügung und soll ihnen helfen, von den neuesten Forschungsergebnissen und Investitionen in Sicherheitssysteme zu profitieren.