O omni-moderation-latest é um modelo de moderação de conteúdo multimodais de nova geração baseado no GPT-4o. Ele detecta informações prejudiciais em conteúdo de texto e imagem com maior precisão, ajudando os desenvolvedores a construir sistemas de moderação mais robustos. O modelo suporta entrada de texto e imagem, sendo particularmente mais preciso em idiomas que não sejam o inglês. Ele pode avaliar se o conteúdo está em conformidade com categorias como ódio, violência e automutilação, e oferece controle mais refinado sobre as decisões de moderação. Além disso, ele fornece pontuações de probabilidade para refletir a possibilidade de correspondência do conteúdo com as categorias detectadas. O modelo está disponível gratuitamente para todos os desenvolvedores, com o objetivo de ajudar os desenvolvedores a se beneficiarem dos investimentos mais recentes em pesquisa e sistemas de segurança.