先日、中関村フォーラムの一環として開催された第12回デジタル金融とテクノロジー金融会議において、アリババ傘下のZOLOZ（ゾロズ）のDeepfake検出ソリューションが「金融テクノロジー技術革新と応用事例」に選出されました。ZOLOZは傘下の天機ラボを基盤に、業界で初めて大規模で高品質なマルチモーダルDeepfakeデータセットを構築しました。これは百万を超えるマルチメディアコンテンツを合成しており、現実世界の金融リスク管理環境におけるDeepfake攻撃サンプルを十分にシミュレートし、金融分野における既存のDeepfake検出技術を評価するための基盤となります。

AIGC技術の急速な発展に伴い、画像編集ツールがますます強力になり、画像の改ざんは容易になり、検出も困難になっています。既存の画像改ざん検出と特定方法（IFDL）は通常効果的ですが、大きく2つの課題に直面しています。1つは「ブラックボックス」的な性質で、検出原理が不明瞭であること。もう1つは汎化能力が限られており、Photoshop、DeepFake、AIGC編集など、様々な改ざん方法に対応できないことです。これらの問題を解決するために、北京大学の研究チームは、説明可能なIFDLタスクを提案しました。

最近、韓国でDeepfake技術の悪用事件が広く注目を集めています。約22万人がTelegramを通じてAIで生成された性的な画像を拡散し、女性の権利に深刻な被害を与えました。この事件はN号房事件と呼応し、AI技術の悪用の社会的危険性を浮き彫りにしています。この問題に対し、中国の女性エンジニアである張欣怡氏とそのチームは、外灘大会AIイノベーションコンテストでDeepfakeモデルを世界に向けてオープンソース化すると発表しました。これはDeepfake技術の悪用に対抗するための技術的手段を提供することを目的としています。この行動はソーシャルメディアで高い評価を得ており…

ニューヨーク州ビンガムトン大学の研究者、アーメド・アブディン・ハメド氏が、偽造された学術論文を94%の高い精度で識別できる機械学習アルゴリズム、xFakeSciを開発しました。ハメド氏と彼のチームは、アルツハイマー病、癌、うつ病に関する偽の論文50本を作成し、実際の論文と比較分析しました。その結果、偽の論文では、実際の論文と比較して二語の組み合わせの数が明らかに少なく、内容との関連性がより強いことがわかりました。ハメド氏は、このアルゴリズムをより多くの分野に拡大し、AIによる偽情報の蔓延に対抗する計画です。

サイバー犯罪者がOnlyFakeプラットフォームを利用して精巧な偽造身分証明書を作成し、暗号通貨取引所のKYC認証を回避していることが明らかになりました。15ドルのツールキットにより、犯罪者は容易に仮想的な身分を構築でき、サイバーセキュリティコミュニティに懸念が生じています。BinanceやKrakenなどの暗号通貨取引所では、これらの不正な書類が既に承認されていることが確認されています。専門家は、この技術がマネーロンダリングや金融詐欺に利用される可能性があると警告し、サイバーセキュリティ対策の強化を呼びかけています。AI駆動型の詐欺技術は、厳格なセキュリティチェックを容易に通過する偽造身分証明書の存在を浮き彫りにし、サイバーセキュリティの強化の必要性を改めて示しています。

Firefoxが、Fakespot Chat AIツールを発表しました。このツールは、ユーザーが偽レビューを検出するのに役立ちます。AIツールは、高度な技術を使用して本物のレビューと偽のレビューをふるい分けます。ユーザーの商品調査時間を削減し、より良い購買意思決定を支援します。