注目を集めるNeurIPS人工知能学会において、マサチューセッツ工科大学メディアラボのロザリンド・ピカード教授の講演が、人種差別的な発言を巡り、業界内で強い反響を呼んだ。重要な事項を最適化する方法をテーマにした講演の中で、ピカード教授はトップ大学から除籍された中国人学生に言及し、同学生が学校で倫理や道徳を教えられなかったと主張したと述べた。その後、彼女は知り合いの中国人のほとんどが誠実で道徳的に高潔であると付け加えたものの、この発言は業界で広く議論を巻き起こした。

グローバルな非営利就労支援団体Generationの最新調査が、職場における憂慮すべき現象を明らかにしました。AI分野において、年齢差別が深刻な問題になりつつあるのです。45歳以上の従業員2610名と雇用主1488名を対象としたこの調査によると、アメリカの採用担当者の90％は、中高年層の従業員の総合的な業績は若い同僚と同等かそれ以上であると認めていますが、AI関連の職種では35歳以下の候補者を優先する傾向があることが示されました。この偏見は、ヨーロッパの雇用主にも同様にみられます。

OpenAIの研究者たちは最近、興味深い現象を発見しました。ChatGPTとやり取りする際にユーザーが選択するユーザー名によって、AIのレスポンスに微妙な影響を与える可能性があるということです。しかし、この影響は全体的には非常に小さく、主に以前の、または最適化されていないモデルのバージョンに限定されています。この研究は、異なる文化的背景、性別、人種に関連するユーザー名に対して、ChatGPTが同じ質問にどのように異なる反応を示すかを詳しく調べています。ユーザー名を切り口として選択したのは、名前が特定の文化、性別、人種を伴うことが多いからである。

言語モデルは、教育から法律相談、さらには医療リスクの予測に至るまで、多くの分野で広く利用されています。しかし、これらのモデルが意思決定プロセスにおける重要性を増すにつれて、無意識のうちに人間のトレーニングデータに含まれるバイアスを反映し、少数派への差別を悪化させる可能性があります。研究によると、言語モデルには潜在的な人種差別が存在し、特にアフリカ系アメリカ人英語（AAE）を処理する際に有害な方言差別を示し、アフリカ系アメリカ人に対する既知のステレオタイプよりも否定的な結果となっています。AAEと標準アメリカ英語を比較する「マッチング・マスキング」手法を用いて分析しています。

職場採用における人工知能の活用は、客観性と効率性を高めることを目的としていますが、研究により、偏見を増幅する可能性が明らかになっています。AIはデータから学習するため、データセットに偏りがあると、アルゴリズムが不公平な結果を生む可能性があります。人事担当者とAI開発者間の教育や専門性の違いは、効果的な協力を阻害し、偏見の特定と軽減の能力に影響を与えます。この問題を解決するためには、人事担当者のAIに関する知識を高めるための体系的な研修プログラムの実施、多様なデータセットを確保し、様々な集団を代表させるための異分野チームの協力促進、ガイドラインと倫理規定の策定が推奨されます。

実験により、OpenAI GPT3.5が履歴書選別において人種差別的な偏りを持っていることが判明しました。テストの結果、GPT3.5は特定の民族の氏名に偏っている傾向があり、採用決定に影響を与える可能性があります。また、異なる職種において、GPTは性別と人種に関する偏りを持っていることも判明しました。OpenAIは、企業が同社の技術を使用する際には、通常、バイアスを軽減するための対策を講じていると回答しています。

不適切な歴史的文脈において多様な画像を生成したとしてGeminiがユーザーから批判されたことを受け、GoogleはAIツールを緊急修正し、人種差別に関する批判を回避しました。Geminiは過去にも多様性に関する問題を起こしていました。

カリフォルニア州上院議員Steve Padilla議員は、人工知能システムの使用、特に州政府機関におけるシステムの使用を規制することを目的とした2つの法案を提出しました。最初の法案（上院法案892号）は、テクノロジー部門に対し、AIサービスの安全、プライバシー、および差別禁止基準を策定し、これらの基準を満たさないベンダーとの州政府の連携を禁止することを求めています。2番目の法案（上院法案893号）は、学者に計算資源とデータを提供するカリフォルニア州人工知能研究センターを設立します。これらの法案は、昨年9月に続く…

Anthropicは、プロンプトエンジニアリング戦略を採用することで、AIによる差別を効果的に軽減することに成功しました。フレンドリーな対応を促すプロンプトを使用することで、顕著な効果が得られました。研究者たちは、プロンプトに「介入」を加えることでモデルに偏見を持たせないよう指示し、差別をほぼゼロにまで減少させることに成功しました。この戦略では、高リスクの意思決定においては、言語モデルを慎重に使用する必要性と、政府や社会全体が意思決定に影響を与えるべきであることが強調されています。AnthropicはGoogleと協力し、Google Cloud TPUv5eチップによる言語モデルClaudeの展開を計画しています。この研究は、AIによる差別を軽減するための新たな戦略を提供するものです。

最新の研究で、ChatGPTなどの有名なAIチャットボットが、黒人に関する誤った医療情報を拡散していることが明らかになりました。スタンフォード大学の研究者らがAIチャットボットに質問したところ、腎機能、肺活量、筋肉量に関する誤った回答が返ってきたとのことです。このことは、誤った医療情報が健康格差を悪化させる可能性があるため懸念されています。

イングランド銀行は、人工知能が金融の安定性を損ない、銀行への信頼を破壊する可能性があると指摘しています。アルゴリズムが差別的な意思決定を招き、過去の偏見を複製する可能性を懸念しており、多くの企業が不透明なAIモデルを使用していることが市場の安定性に影響を与える可能性があると述べています。金融会社によるAIの利用リスクを制限する方法を検討するよう中央銀行に勧告しており、この見解は、世界各国におけるAIの急速な発展への懸念を高めています。

Bardの新バージョンはGoogleアプリと連携し、生成されたコンテンツをGoogleドキュメント、スプレッドシートなどにワンクリックで保存できます。 Bardに自己検証機能が追加され、会話型AIが誤りを修正し、信頼性を向上させます。 Bardの機能が強化され、大規模モデルの競争から製品の応用へと移行し、ChatGPTとの差別化を図ります。 Googleなどの巨大企業は、自社の強みを活かし、AIGCツールと自社アプリを統合し、アプリケーションシナリオの競争を展開しています。 AIGC分野は、モデル競争段階からアプリケーションのイノベーションとエコシステムの発展段階に移行しています。