マイクロソフトは先日、生成AIが悪用される現状について詳細に分析した白書を発表しました。詐欺、児童性的虐待コンテンツ、選挙操作、非自発的なプライベート画像の流出など、様々な問題を取り上げています。同社は、これらの問題は技術的な課題であるだけでなく、社会に対する重大な脅威であると強調しています。
画像出典：AI生成画像、画像ライセンス提供元Midjourney
マイクロソフトの白書によると、犯罪者は生成AIの能力を悪用して犯罪行為をますます巧妙化しています。AIによって生成された虚偽の情報を使った詐欺、児童性的虐待コンテンツの作成、ディープフェイク技術を使った選挙操作、そして特に女性を標的にした非自発的な親密画像の作成などが挙げられます。マイクロソフトの外部渉外担当副社長ヒュー・ミルワード氏は、「AIの悪用が現実の人々に与える深刻な影響を決して忘れてはなりません」と述べています。
この白書は、英国の政策立案者を特に対象として、上記の課題に対処するための6つの主要要素に基づいた包括的な解決策を提案しています。この6つの要素とは、強力なセキュリティアーキテクチャ、メディアの永続的なソースと透かしツール、国民を守るための現代的な法律、業界と政府および市民社会間の強力な連携、サービスの悪用からの保護、そして国民教育です。
英国の政策立案者への具体的な提案として、マイクロソフトは、AIシステムのプロバイダーは、ユーザーがAIシステムとやり取りする際に、そのコンテンツがAIによって生成されたものであることをユーザーに知らせる必要があると訴えています。さらに、合成コンテンツにマークを付けるための高度なソースマーキングツールの実装、政府によるメディアコンテンツの真偽検証による模範を示すことなどを提案しています。また、AIツールによる詐欺行為を禁止する新しい法律が必要であり、選挙の公正性を守る必要があると強調しています。同時に、児童と女性をオンラインでの搾取から守るための法的枠組みも強化する必要があり、性的ディープフェイクの作成行為を犯罪とすることも含まれます。
マイクロソフトはまた、メディアがAIによって生成されたかどうかを示すメタデータ技術の保存が非常に重要であると指摘しています。アドビなどの企業が既に推進している同様のプロジェクトがあり、これらは画像の出所を特定するのに役立ちます。「コンテンツ証明書」のような標準は、政策措置と国民の意識向上によって初めて効果を発揮するとマイクロソフトは考えています。
さらに、マイクロソフトはStopNCII.orgなどの団体と協力して、悪用された画像の検出と削除のためのツールを開発しています。被害者はマイクロソフトの中央報告ポータルを通じて権利主張を行うことができます。若者向けには、行方不明・搾取された児童のための全国センターが提供する「Take It Down」サービスも追加のサポートを提供しています。ミルワード氏は、「AIの悪用問題は長期的に存在する可能性があるため、テクノロジー企業、慈善団体、市民社会、政府と創造的な協力をしてこの問題に対処するために、さらに努力する必要があります。私たちは単独では戦えません」と述べています。
要点：
🛡️ マイクロソフトが白書を発表、詐欺や選挙操作など、生成AIが悪用される様々な方法を明らかに。
📜 英国の政策立案者を対象に、法律と技術の包括的な保護を求める6つの要素からなる解決策を提案。
🤝 AIの悪用による課題への対応に向けて、様々な関係者との協力の重要性を強調。
