omni-moderation-latest est un modèle de modération de contenu multimodale nouvelle génération basé sur GPT-4o. Il offre une détection plus précise des informations nuisibles dans les contenus textuels et imagés, aidant les développeurs à construire des systèmes de modération plus robustes. Ce modèle prend en charge les entrées textuelles et imagées, et se montre particulièrement précis pour les langues autres que l'anglais. Il est capable d'évaluer si un contenu est conforme à des catégories telles que la haine, la violence ou l'automutilation, et offre un contrôle plus fin des décisions de modération. De plus, il fournit des scores de probabilité reflétant la probabilité de correspondance du contenu avec les catégories détectées. Ce modèle est gratuit pour tous les développeurs et vise à leur faire bénéficier des dernières recherches et investissements en matière de systèmes de sécurité.