最近、英国で注目を集める事件が発生しました。27歳のヒュー・ネルソン（Hugh Nelson）被告は、人工知能を利用して児童の一般的な写真を性的虐待画像に変換した罪で、18年の禁錮刑を言い渡されました。画像出典：AI生成画像、画像ライセンスプロバイダーMidjourney。ネルソン被告はボル​​トン出身で、Daz3Dというアプリケーションを使って無実の子供の画像に基づいた3D「キャラクター」を作成しました。衝撃的なことに、ネルソン被告は…

インターネット・ウォッチ・ファウンデーション（IWF）は最近、人工知能（AI）によって生成された児童性的虐待画像（CSAM）が公開ネットワーク上で増加し、「臨界点」に達したと警告しました。この安全監視機関は、過去6ヶ月間に発見されたAI生成の違法コンテンツの量が、前年通年の量を上回ったと述べています。画像注記：画像はAI生成、画像ライセンスプロバイダーMidjourney IWFの暫定CEO、デレク・レイ・ヒル（Derek R…

LAIONは、CSAM（児童性的虐待素材）へのリンクを包括的に削除した世界初のAIトレーニングデータセットであるRe-LAION-5Bを発表しました。これは、児童性的虐待素材の問題に対処することを目的としています。このデータセットはLAION-5Bを大幅に改良したもので、Re-LAION-5B ResearchとResearch-Safeの2つのバージョンがあり、合計2236個のCSAMリンクが削除されています。そのうち1008個は児童保護団体のリストに掲載されていたものです。このデータセットは、テキストと画像のペアを55億個含んでおり、…

新たな報告書によると、AI画像生成器の基盤には何千もの児童性的虐待画像が隠されており、企業は技術上の欠陥に対処するための行動を促されています。これらの画像は、AIシステムが現実的な偽の児童画像を生成しやすくし、ソーシャルメディア上の服を着た実際のティーンエイジャーの写真を裸の写真に変換することを可能にします。この問題には簡単な解決策はなく、企業が技術上の欠陥に対処するために行動を起こす必要があります。

学生が人工知能を利用して児童性的虐待の疑いのある画像を作成し、その精巧さに衝撃が走っています。専門家は緊急の対応を呼びかけ、学校での児童性的虐待資料の拡散防止を推奨しています。画像はプロの児童写真に匹敵する品質で、現実的な子どもの姿がインターネットに拡散する可能性があります。児童保護団体は、同様の有害行為を予防するためのより良いシステム構築を提言しています。

インターネット・ウォッチ・ファウンデーション（IWF）は、児童性的虐待画像の問題が悪化する可能性があると警告しています。報告書は、ディープフェイク画像を生成するAIを迅速に制御するよう、政府とテクノロジー企業に求めています。生成AIシステムは、仮想児童のディープフェイクにつながり、潜在的な被害者の範囲を広げる可能性があります。特にEUの提案に沿って、AI生成の悪用に対処するための法律を強化する必要があります。

ノースカロライナ州の児童精神科医が、児童性的虐待資料（CSAM）の作成、所持、および輸送の罪で投獄されました。この児童精神科医、デイビッド・タタムは、AIソフトウェアを使用して患者を密かに録音し、違法な画像や動画を作成したとして起訴されました。検察官は、この精神科医の行為が子供たちに被害を与えたとして、40年の禁錮刑と30年の保護観察処分を言い渡しました。