最近、OpenAIの研究チームは、ユーザーがChatGPTとやり取りする際に、選択したユーザー名がAIの回答に何らかの影響を与える可能性があることを発見しました。この影響は比較的小さく、主に古いモデルに見られるものですが、研究結果は依然として注目に値します。ユーザーは通常、ChatGPTに自分の名前を提示してタスクを実行させるため、名前が含む文化、性別、人種的背景はバイアスを研究する上で重要な要素となります。この研究では、研究者らはChatGPTについて考察しました

先日、OpenAIのグローバル・アフェアーズ担当バイスプレジデントであるアナ・マカンジュ（Anna Makanju）氏が国連「未来サミット」において、AIバイアスに関する見解を発表しました。彼女は、OpenAIのo1のような「推論」モデルは、AIシステムにおけるバイアスを大幅に削減できると述べています。では、o1はどのようにそれを実現するのでしょうか？マカンジュ氏によると、これらのモデルは回答におけるバイアスを自己認識し、「有害な」回答を生成しないというルールにより忠実に従うことができるといいます。彼女は、o1について…

アメリカ国防総省は最近、AIモデルにおける潜在的な法的バイアスを発見するための懸賞金プログラムを開始しました。このプログラムでは、参加者にMetaのオープンソースLLama-270Bモデルから明白なバイアスの事例を抽出することを求めています。国防総省はこの取り組みを通じて、AIシステムにおけるバイアスを軽減し、公平性を向上させることを目指しています。