AIによる「張文宏」なりすましライブコマース、消費者を誤導

最近、張文宏医師に扮したアカウントがライブコマースでプロテインバーを販売する動画がインターネット上で大きな注目を集めています。

多くのネットユーザーは「張文宏医師が本当に販売しているのか？」と疑問を抱きました。さらに懸念されるのは、高齢の視聴者の一部がこの動画を信じてしまい、実際に商品を注文し、ソーシャルメディアで情報を拡散していることです。記者による調査の結果、動画に登場する張文宏医師は本物ではなく、AI技術を用いたディープフェイクであることが判明しました。

これに対し、張文宏医師は、このような偽アカウントは複数存在し、常に変化しているため、プラットフォームに何度も通報していると回应しました。この問題は数週間前から続いており、当初から通報を行っていました。特にAIに不慣れな高齢者は、容易に騙されてしまう可能性があります。

人工知能技術の発展に伴い、ライブコマースの形態は常に変化しています。現在、AI技術は非常にリアルな顔と声を生成できるようになり、不正行為を行う者にとって都合の良いツールとなっています。最近では、ある有名企業家の声もAI技術で合成され、インターネット上で拡散され、大きな影響を与えました。今回のAI合成による張文宏医師のライブコマースも非常にリアルで、技術的にはまだ欠点がありますが、それでも多くの人を騙しました。

この事件は、特に新技術への理解が比較的遅れている高齢者において、情報の真偽に対する関心を高めました。しかし、高齢者だけでなく、誰でもAIによる偽情報に惑わされるリスクがあります。偽情報を識別するために個人の判断だけに頼ることはできません。そのため、関連する技術的な予防策が非常に重要になります。

ライブコマースにおいて、張文宏医師を模倣したアカウントは自分の身元を明確に示しておらず、深夜にライブ配信を行うなど、隠密性が高いことから、プラットフォームにおけるAI不正行為への対策の取り組みと効果が問われます。AI技術の発展は利便性をもたらしますが、同時に社会に新たな課題をもたらします。将来起こりうる偽造行為に対処するため、より完善したリスク予防メカニズムの構築が喫緊の課題となっています。