OpenAIは先日、AIモデルのトレーニング方法を変える重要なポリシーアップデートを発表しました。これは、たとえ話題がどれだけ挑戦的で物議を醸すものであっても「知識の自由」の重要性を強調するものです。この変更により、ChatGPTはより包括的に質問に答え、より多くの視点を提供し、特定のトピックに関する議論を拒否する頻度を減らすことになります。新しい187ページのモデル仕様書では、OpenAIは新しいガイドラインを示しています。それは「嘘をつくな。虚偽の記述をするな、重要な文脈を省略するな」ということです。新

フランスの人工知能新鋭Mistral AIは先日、新しいコンテンツ審査APIサービスを発表しました。この取り組みは、同社のグローバルAI分野における野心を示すだけでなく、AIの安全ガバナンスに対する深い考察を反映しています。Ministral8Bモデルに基づいて構築されたこの審査システムは、性的コンテンツ、ヘイトスピーチ、暴力、危険行為、個人情報など、9つの潜在的に有害なコンテンツを正確に識別できます。注目すべきは、このAPIがアラビア語、中国語、英語、フランス語など11の主要言語に対応していることです。

「GPT-4は、数ヶ月かかる人間の審査作業を数時間で完了できます。」「GPT-4を用いたコンテンツ審査は、より一貫性のあるラベル付け、より迅速なポリシーフィードバックループを実現します。」「GPT-4を用いたコンテンツ審査は、人間の審査員の心理的負担を軽減できます。」