omni-moderation-latestは、GPT-4oを基盤とした新世代のマルチモーダルコンテンツモデレーションモデルです。テキストと画像コンテンツの有害情報検出において高い精度を実現し、より強力なモデレーションシステム構築を開発者に支援します。テキストと画像の両方の入力をサポートし、特に非英語圏言語において高い精度を誇ります。ヘイトスピーチ、暴力、自傷行為などのカテゴリーに該当するかどうかを評価し、より詳細なモデレーション判断を提供します。さらに、コンテンツと検出カテゴリーの一致可能性を示す確率スコアも提供します。本モデルは全開発者向けに無料で公開されており、最新の研究とセキュリティシステムへの投資を活用できるよう支援することを目的としています。