最近、米国の50州と4地域の司法長官が連名で議会に書簡を送り、人工知能（AI）によって生成された児童性的虐待コンテンツが児童の安全に及ぼす影響を専門に調査する委員会の設立を訴えました。
書簡では、一部の犯罪者がAI技術を利用して、非常にリアルな児童ポルノコンテンツを生成しており、それが児童の安全に大きな脅威となっていると指摘しています。そのため、司法長官らは、AI技術が児童搾取に使用されている状況について広範に調査し、解決策を提示する超党派委員会の設立を議会に求めています。
具体的な提案としては、既存の法律を拡大し、AIによって生成された児童ポルノコンテンツを明確に違法とすること、新たな規制措置を導入し、このようなAIアプリケーションの規制を強化することなどが挙げられています。
司法長官らはまた、AIのリスクを評価する際には、児童の安全を軽視すべきではないと強調しています。この取り組みは50州の司法長官全員の支持を得ており、AIの潜在的なリスクへの対応、そして児童を守る責任ある政策策定に向けて、社会に強いメッセージを発信するものです。
スペイン政府は最近、人工知能（AI）生成コンテンツの適切な標記がない企業に高額な罰金を科す新法案を可決しました。これは、ディープフェイク現象への対策です。デジタル変革担当大臣オスカル・ロペス（Oscar Lopez）は記者会見で、この法案はEUの人工知能法案を参考に、高リスクとみなされる人工知能システムに厳格な透明性要求を規定していると述べました。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyから提供されています。
近年、人工知能技術の急速な発展に伴い、AIツールは大学生が様々なレポートや論文を作成する際の「強力な助っ人」となっています。央视ニュースの報道によると、一部の大学の教員や専門家は、AIで生成された内容を利用した学生の中には、研究データの捏造、実験写真の改ざん、自主的な設計の代替など、不適切な行為に当たる事例があり、既に学術上の不正行為に該当すると指摘しています。 ある大学の課題グループで、学生たちの注目を集める通知がありました。教師は、AIで直接生成された作文を提出した場合、0点と明示的に述べています。
小紅書は最近、不正アカウント対策に関する中間報告を発表し、過去3ヶ月で320万件以上の違反アカウントを処理したと発表しました。この取り組みは、AIによって生成された同質的なコンテンツを利用する不正業者を抑制し、コミュニティの健全性を保護することを目的としています。小紅書の対策は昨年11月から開始され、虚偽のマーケティングや不正アカウント養成行為の取り締まりに重点を置いています。小紅書の「薯管家」の発表によると、これらの不正業者は通常、大量の類似した動画コンテンツを投稿して急速にフォロワーを増やし、その後、転売することで利益を得ています。
先日、小紅書は最新の「ダークグレーマーケットアカウント対策の進捗状況に関する発表」を公開し、過去3ヶ月間に320万件以上のダークグレーマーケットアカウントを処理したと発表しました。発表によると、2023年2月17日現在、「薯管家」チームは対策において、フォロワー数10万人以上のアカウント401件、フォロワー数1万人以上のアカウント9215件を発見、処理しました。これは、ダークグレーマーケットアカウントがコミュニティにおける影響力を無視できないことを示しています。小紅書側は、ダークグレーマーケットアカウントの対策は主に2つの点に集中していると述べています。
