IBMビジネスバリュー研究所の新たな調査によると、人工知能（AI）の正確性とバイアスを懸念する最高経営責任者（CEO）が約半数にのぼることがわかりました。この調査は、IBMとオックスフォード・エコノミクスとの共同で実施され、北米、ラテンアメリカ、ヨーロッパ、中東、アフリカ、アジアの企業リーダーを含む24カ国5000人の幹部を対象としています。AIガバナンスに関しては、組織のAIガバナンス成熟度が体系的または革新的な段階にあると考える幹部は21％にとどまり、企業はこの分野において改善の余地が大きいことが示唆されました。

最近の研究によると、選挙に関するスペイン語の質問への回答において、AIモデルの正確性が英語の回答と比べて大幅に低いことが明らかになりました。この研究は、Proof News、ファクトチェックサービスFactchequeado、サンフランシスコ高等研究院が共同で実施するAI民主主義プロジェクトによって行われました。画像注記：画像はAIによって生成され、Midjourney社の画像ライセンスサービスを利用しています。研究者らは、間近に迫ったアメリカ大統領選挙を念頭に、アリゾナ州の有権者の模倣を試みました。

新たな研究によると、大規模言語モデル（LLM）における善意に基づく安全対策が、意図しない弱点につながる可能性があることが示されました。研究者らは、人口統計学的用語によってモデルの「脱獄」の難易度が大きく異なることを発見しました。「LLMは政治的に正しいか？」と題されたこの研究では、人口統計学的キーワードが脱獄試行の成功確率にどのように影響するかを検証しています。その結果、特権的なグループに関連する用語よりも、マイノリティグループに関連する用語を使用したプロンプトの方が、望ましくない応答を引き出す可能性が高いことが分かりました。

OpenAIの研究者たちは最近、興味深い現象を発見しました。ChatGPTとやり取りする際にユーザーが選択するユーザー名によって、AIのレスポンスに微妙な影響を与える可能性があるということです。しかし、この影響は全体的には非常に小さく、主に以前の、または最適化されていないモデルのバージョンに限定されています。この研究は、異なる文化的背景、性別、人種に関連するユーザー名に対して、ChatGPTが同じ質問にどのように異なる反応を示すかを詳しく調べています。ユーザー名を切り口として選択したのは、名前が特定の文化、性別、人種を伴うことが多いからである。

最近、OpenAIの研究チームは、ユーザーがChatGPTとやり取りする際に、選択したユーザー名がAIの回答に何らかの影響を与える可能性があることを発見しました。この影響は比較的小さく、主に古いモデルに見られるものですが、研究結果は依然として注目に値します。ユーザーは通常、ChatGPTに自分の名前を提示してタスクを実行させるため、名前が含む文化、性別、人種的背景はバイアスを研究する上で重要な要素となります。この研究では、研究者らはChatGPTについて考察しました

先日、OpenAIのグローバル・アフェアーズ担当バイスプレジデントであるアナ・マカンジュ（Anna Makanju）氏が国連「未来サミット」において、AIバイアスに関する見解を発表しました。彼女は、OpenAIのo1のような「推論」モデルは、AIシステムにおけるバイアスを大幅に削減できると述べています。では、o1はどのようにそれを実現するのでしょうか？マカンジュ氏によると、これらのモデルは回答におけるバイアスを自己認識し、「有害な」回答を生成しないというルールにより忠実に従うことができるといいます。彼女は、o1について…

言語モデルは、教育から法律相談、さらには医療リスクの予測に至るまで、多くの分野で広く利用されています。しかし、これらのモデルが意思決定プロセスにおける重要性を増すにつれて、無意識のうちに人間のトレーニングデータに含まれるバイアスを反映し、少数派への差別を悪化させる可能性があります。研究によると、言語モデルには潜在的な人種差別が存在し、特にアフリカ系アメリカ人英語（AAE）を処理する際に有害な方言差別を示し、アフリカ系アメリカ人に対する既知のステレオタイプよりも否定的な結果となっています。AAEと標準アメリカ英語を比較する「マッチング・マスキング」手法を用いて分析しています。

アメリカ・オクラホマシティ警察は、時間を節約するために、AIベースのチャットボット「Draft One」による報告書作成の実験を行っています。Axon社が開発したこのシステムは、ChatGPT技術に基づき、音声記録から迅速に報告書を作成できます。支持者は効率の大幅な向上を主張する一方、批判派は、エラーやバイアス、そして自動化による権力濫用の可能性を懸念しています。活動家のAurelius Francisco氏は、同社が提供するAIとスタンガンが同時に使用されることに不安を感じ、自動化による…

Google CEOが、Gemini AIアプリケーションにおけるバイアス問題を厳しく批判。一部のGemini画像生成における歴史上の人物像に議論が巻き起こり、Sundar Pichai CEOが従業員に宛てた書簡で問題解決に全力を尽くすと約束。GoogleはGemini画像生成ツールの使用を一時停止。

アメリカ国防総省は最近、AIモデルにおける潜在的な法的バイアスを発見するための懸賞金プログラムを開始しました。このプログラムでは、参加者にMetaのオープンソースLLama-270Bモデルから明白なバイアスの事例を抽出することを求めています。国防総省はこの取り組みを通じて、AIシステムにおけるバイアスを軽減し、公平性を向上させることを目指しています。

研究者らは、GPT-4における臨床意思決定の人種・性差バイアスを評価しました。GPT-4に明らかなバイアスが存在することが判明しました。大規模言語モデルのバイアス評価の必要性が訴えられています。研究結果は『ランセットデジタルヘルス』誌に掲載されました。

バージニア工科大学による報告書で、ChatGPTが環境正義問題においてバイアスを示すことが指摘されました。研究によると、ChatGPTは人口密度の高い州に対しては環境正義に関する情報を提供しやすい一方、人口の少ない農村部では同様の情報アクセスが不足していることがわかりました。この研究は、ChatGPTモデルの地理的バイアスを明らかにするためのさらなる研究を促しています。以前の研究では、ChatGPTが政治的バイアスを示す可能性も指摘されています。

英国政府は複数の省庁で深層学習アルゴリズムを使用していますが、アルゴリズムの訓練データにバイアスが存在するという問題を抱えています。英国内務省では、空港でのAIによるパスポート読み取りにおいて深刻な人種差別問題が発生しています。バイアスを回避するには、より透明性の高いアルゴリズムと、専門家がシステムの公平性を検証するためのオープンなデータアクセス権が必要です。英国政府は対策を講じていますが、人工知能を使用する組織が関連規定を遵守するよう、法的圧力を強化する必要があります。法律、技術、教育などの手段を通じて、人工知能技術の公平性と正義を確保する必要があります。

🌐 日本政府は、AI技術への過剰な依存とデータバイアスの問題に対処するため、AIに関する指針を策定しています。📜 政府は年末までに、公平性、透明性、人権保護を確保するための10の基本原則を含む指針を最終決定する予定です。🤖 AI開発者、サービス提供者、利用者は、責任を共有し、開発者はデータの正確性と不正アクセス防止を確保する必要があります。

研究者らは、OpenAIのChatGPTモデルが政治的な質問への回答において左傾バイアスを示すことを発見しました。ChatGPTは、アメリカ、イギリス、ブラジルの左派政党に関する質問への回答において、左派寄りの立場をとる傾向がありました。研究者らは、ChatGPTのバイアスがユーザーの政治的見解や選挙結果に影響を与える可能性を懸念しています。

トレーニングデータセットにおけるバイアスが、少数民族を詐欺、騙し、虚偽情報の圧力にさらす可能性があるという懸念がある。ほとんどのディープフェイク検出器は、トレーニングに使用されたデータセットに依存する学習戦略に基づいている。専門家らは、ディープフェイク検出ツールのバイアス問題に対処するため、より包括的なトレーニングセットと標準化された測定方法の確立を呼びかけている。

研究者らは、AI言語モデルに政治的バイアスが存在することを発見しました。ChatGPTとGPT-4は最も左翼自由主義的なモデルとみなされ、一方、MetaのLLaMAは最も右翼全体主義的なモデルとみなされています。この研究結果は、AI言語モデルの開発と使用において、政治的バイアスの存在に警戒し、公正かつ多様な表現を確保する必要があることを示唆しています。