グローバルな非営利就労支援団体Generationの最新調査が、職場における憂慮すべき現象を明らかにしました。AI分野において、年齢差別が深刻な問題になりつつあるのです。45歳以上の従業員2610名と雇用主1488名を対象としたこの調査によると、アメリカの採用担当者の90％は、中高年層の従業員の総合的な業績は若い同僚と同等かそれ以上であると認めていますが、AI関連の職種では35歳以下の候補者を優先する傾向があることが示されました。この偏見は、ヨーロッパの雇用主にも同様にみられます。

職場採用における人工知能の活用は、客観性と効率性を高めることを目的としていますが、研究により、偏見を増幅する可能性が明らかになっています。AIはデータから学習するため、データセットに偏りがあると、アルゴリズムが不公平な結果を生む可能性があります。人事担当者とAI開発者間の教育や専門性の違いは、効果的な協力を阻害し、偏見の特定と軽減の能力に影響を与えます。この問題を解決するためには、人事担当者のAIに関する知識を高めるための体系的な研修プログラムの実施、多様なデータセットを確保し、様々な集団を代表させるための異分野チームの協力促進、ガイドラインと倫理規定の策定が推奨されます。

黒人創業者は、ChatGPTなどの主流の大規模言語モデルが文化的な違いを処理する際に明らかな欠点があることに気づきました。これらのモデルは、西洋文化の背景とは無関係な質問に回答する場合、回答が非常に一般的で、アフリカ系アメリカ人やその独特の文化的伝統への理解に欠けていることがよくあります。

専門家によると、OpenAIの最新の動画生成ツールSoraは、虚偽情報や偏見を助長する可能性があるとのことです。Soraは、ダルメシアン、中国の旧正月パレード、考古学者が椅子を発掘する様子といった偽の動画を生成しました。専門家は、Soraがインターネット上の虚偽情報や政府によるプロパガンダを悪化させ、真偽の区別をさらに曖昧にすることを懸念しています。OpenAIはSoraの悪用を防ぐための措置を取っていますが、専門家は依然として、ディープフェイク動画を作成する可能性について懸念を表明しています。

ニューヨーク大学Tandon工科大学の研究チームは、仕事に関連する育児休暇が不公平な採用選考につながる可能性を発見しました。研究チームは、大規模言語モデルの偏見を調査しました。その結果、少なくとも1つの言語モデルが、育児に関連する属性を履歴書の選考過程で誤って考慮していることがわかりました。この研究結果は、AI採用を使用する際に、適格な女性の候補者を誤って除外する可能性があることを示しています。

人工知能によって生成された白人の顔は、現在、リアルさを「実物以上に」まで高めていますが、他の民族の表現において偏見が存在することが明らかになっています。研究によると、アルゴリズムの訓練データにおける偏りが、AIが他の民族を白人の特徴で表現する傾向を引き起こしており、オンライン上の人種偏見を悪化させる可能性があります。研究者らは、情報ミスの回避とオンライン詐欺防止のため、一般への啓発を呼びかけており、人工知能の「超写実主義」がもたらす潜在的な問題点を強調しています。