微信ビデオ創作安全センターは、最近プラットフォームの巡回調査で、一部の配信者がライブ配信中にAIツールを不正に使用し、視聴者を誤導したり、他人の肖像権を侵害するなどのリスクがある違法なライブ配信を行っていることを発見したと発表しました。これは「微信ビデオ号運営規範」と「微信ビデオ号ライブ配信行動規範」に違反し、プラットフォームの健全なエコシステムを乱しています。プラットフォームは、AIを不正に使用したライブ配信ルームに対して、違反の程度に応じて、ポップアップ表示、推薦数の減少、ライブ配信の中断、配信禁止、信用ポイントの消去または減点などの処罰を行います。
具体的な違反事例としては、AI技術を用いて他人の顔にすり替える（社会的に著名な人物を含む）、他人の合法的な権利を侵害する行為などがあります。配信者は、金融、法律、医療などの業界に関するコンテンツを共有する前に、対応するライブ配信資格を申請する必要があります。既に資格申請を完了している配信者が、ライブ配信中にAIツールを使用して顔の表情を変え、出演者が資格申請時の身元確認と一致しない場合、違反行為となります。また、ライブ配信ルームでAI技術を利用した不正なライブ配信/顧客獲得/利益獲得の方法を教え、販売する行為も違反となります。
プラットフォームは、AI技術を活用して効率性を向上させ、業務を最適化することを推奨していますが、AI技術を不正な利益獲得や他人の権利侵害などの違法行為に利用することを断固として禁止します。ユーザーがビデオ号ライブ配信を視聴中に関連する違法行為を発見した場合は、ライブ配信ルームの右上隅にある「共有」ボタンの「通報」から通報できます。プラットフォームは、直ちに事実関係を確認し、処理を行います。プラットフォームはユーザーからの通報を非常に重視しており、ビデオ号ライブ配信プラットフォームの良好な秩序を維持し、ユーザーにより質の高い視聴体験を提供するために努力していきます。
