最近、英国で注目を集める事件が発生しました。27歳のヒュー・ネルソン（Hugh Nelson）被告は、人工知能を利用して児童の一般的な写真を性的虐待画像に変換した罪で、18年の禁錮刑を言い渡されました。画像出典：AI生成画像、画像ライセンスプロバイダーMidjourney。ネルソン被告はボル​​トン出身で、Daz3Dというアプリケーションを使って無実の子供の画像に基づいた3D「キャラクター」を作成しました。衝撃的なことに、ネルソン被告は…

インターネット・ウォッチ・ファウンデーション（IWF）は最近、人工知能（AI）によって生成された児童性的虐待画像（CSAM）が公開ネットワーク上で増加し、「臨界点」に達したと警告しました。この安全監視機関は、過去6ヶ月間に発見されたAI生成の違法コンテンツの量が、前年通年の量を上回ったと述べています。画像注記：画像はAI生成、画像ライセンスプロバイダーMidjourney IWFの暫定CEO、デレク・レイ・ヒル（Derek R…

新たな報告書によると、AI画像生成器の基盤には何千もの児童性的虐待画像が隠されており、企業は技術上の欠陥に対処するための行動を促されています。これらの画像は、AIシステムが現実的な偽の児童画像を生成しやすくし、ソーシャルメディア上の服を着た実際のティーンエイジャーの写真を裸の写真に変換することを可能にします。この問題には簡単な解決策はなく、企業が技術上の欠陥に対処するために行動を起こす必要があります。

学生が人工知能を利用して児童性的虐待の疑いのある画像を作成し、その精巧さに衝撃が走っています。専門家は緊急の対応を呼びかけ、学校での児童性的虐待資料の拡散防止を推奨しています。画像はプロの児童写真に匹敵する品質で、現実的な子どもの姿がインターネットに拡散する可能性があります。児童保護団体は、同様の有害行為を予防するためのより良いシステム構築を提言しています。

インターネット・ウォッチ・ファウンデーション（IWF）は、児童性的虐待画像の問題が悪化する可能性があると警告しています。報告書は、ディープフェイク画像を生成するAIを迅速に制御するよう、政府とテクノロジー企業に求めています。生成AIシステムは、仮想児童のディープフェイクにつながり、潜在的な被害者の範囲を広げる可能性があります。特にEUの提案に沿って、AI生成の悪用に対処するための法律を強化する必要があります。