先日、抖音安全センターは発表を行い、プラットフォーム上の株式投資に関するコンテンツの監視を強化し続け、健全なネット環境を構築することに取り組むと発表しました。プラットフォームは、金融および証券の専門家が信頼できる実際の株式情報を共有することを奨励し、デマの流布や拡散をしない良い風潮を促進することで、業界の発展を共同で推進することを提唱しています。しかしながら、抖音は、関連資格を持たない少数のアカウントが、いわゆるAIツールを利用して虚偽情報を発信し、ユーザーの注目を集め、詐欺行為に及んでいることを発見しました。これらのアカウントは、しばしば効率的なAI銘柄選定ツールを推奨することで…

宇樹科技の創業者である王興興氏は先日、個人アカウントとして微信ビデオアカウントに登録し、6月25日に最初の動画を投稿。最近ネット上で流れている不正確な情報について言及しました。動画の中で、彼は個人や会社に関する情報の真偽を見極めるよう視聴者に促し、ネット上に流布している多くの情報は事実ではないと強調。今後、ビデオアカウントを通じて、ロボット製品の技術向上プロセスや開発秘話を紹介していくことを明らかにしました。 これ以前、宇樹科技は公式チャンネルを通じて声明を発表し、全ての株式取引は会社の資金調達責任者を通じてメールで直接行われており、仲介機関は一切存在しないと明言していました。

AI技術の発展に伴い、虚偽情報も増加しています。最近では「2ヶ月間のネット恋愛で相手がAIだった」というニュースが話題となりました。央视の報道によると、上海の劉さんは短編動画プラットフォームで「焦女士」という女性と知り合い、2ヶ月間の交流を経て恋人関係に発展しました。しかし、劉さんは「焦女士」とのやり取りの中で、開店資金、仕入れ資金、家族の手術費用などを理由に、約20万元もの資金を騙し取られました。この期間に…

最近、アリババがAI企業DeepSeekに10億ドルを投資するという噂が市場に広がり、大きな注目を集めて議論を呼んでいます。これに対し、アリババグループ副社長の顔喬氏は自身のソーシャルメディアで、この情報は事実ではないと明確に否定しました。画像の注記：画像はAIによって生成され、画像ライセンスサービスプロバイダーMidjourneyを使用しています。顔喬氏は朋友圈で、中国杭州を拠点とする企業であるDeepSeekは注目と支持に値するものの、外部からの噂はアリババの投資とは関係ないと述べています。

人工知能技術の急速な発展に伴い、AIによって生成されたテキスト、画像、ビデオは様々な分野でますます高度に活用されるようになっています。しかし同時に、信頼性に関する危機も発生しており、虚偽情報の拡散が社会に潜在的な脅威をもたらしています。この課題に対処するため、騰訊は先日、AI技術を用いてAIによる虚偽情報を識別することを目的とした、新たなAI生成コンテンツ検出ツールを発表しました。このツールは騰訊の朱雀实验室によって開発され、AI生成テキスト検出システムとAI生成画像検出システムの2つのシステムで構成されています。騰訊は公式に発表で、

アップル社が最近発表したAIニュース要約機能が、速報ニュースの要約において重大な誤りを繰り返し、ユーザーに大量の虚偽情報が伝わる事態を引き起こしている。この機能の発表以来、多くの報道機関やユーザーから、アップルの技術が未成熟であり、正確な情報を効果的に提供できないとして強い反発を受けている。ワシントンポスト紙のテクノロジーコラムニスト、ジェフリー・ファウラー氏がソーシャルメディアで、アップルのAIがニュース要約において事実を歪めたと投稿したと報じられている。

生成AIの商業化に伴い、オンライン上の虚偽情報が急増しています。認証プラットフォームSumsubのデータによると、2023年から2024年にかけて、世界的なディープフェイクの数は4倍に増加しました。2024年には、ディープフェイクが全ての不正行為の7％を占め、なりすまし、アカウント乗っ取りから複雑なソーシャルエンジニアリング活動まで、様々な形態に及んでいます。この問題に対処するため、MetaはAI生成動画に透かしを挿入する新しいツール「Meta Video Seal」を発表しました。

南方都市報の報道によると、公安部サイバーセキュリティ局は最近、懸念される新たなネット上の虚偽情報拡散の手口を明らかにする典型的な事例を発表しました。広州公安機関は、人工知能ツールを利用して大量の偽情報を生成した犯罪グループを摘発し、犯罪容疑者6人を逮捕しました。犯罪グループは、オンラインプラットフォームのトラフィック収益を得ることを目的とし、巧妙に計画された犯罪手法を用いました。具体的には、アルバイトを募集してソーシャルメディアアカウントを登録させ、AIツールを使って人気記事を迅速に書き換え、大量の偽情報を投稿しました。統計によると、このグループは合計50万件以上の誘導目的の画像付きテキスト情報を投稿しました。

年初、生成AIが世界中の選挙に干渉し、プロパガンダや虚偽情報を拡散するという懸念が広く存在していました。しかし、Metaが最近発表した報告書によると、これらの懸念は同社のプラットフォームでは現実のものとはなっていないようです。Metaは、Facebook、Instagram、Threadsなどのソーシャルメディアプラットフォームにおいて、生成AIによる選挙関連情報への影響は極めて限定的であると述べています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyがMetaの依頼により作成しました。

2024年のアメリカ大統領選挙後、オンライン上での虚偽情報の拡散が驚異的な速度で拡大し、アメリカ国民の候補者、そして公衆衛生、気候変動、移民問題に関する見解に深刻な影響を与えています。生成系AIの発展と、ディープフェイクコンテンツ生成能力、そして「幻覚」的事実を生み出す傾向は、この問題をさらに悪化させる可能性があります。画像出典：AI生成画像、画像ライセンス提供元Midjourney この課題に対処するため、ノルウェーのスタートアップ企業Factiverseが誕生しました。同社は10…

マイクロソフトは最近、人工知能が生成する虚偽情報を軽減または排除するための技術的手法を目的とした特許を出願しました。この特許は「外部知識とフィードバックを利用した言語モデルとの対話」と題され、昨年米国特許商標庁（USPTO）に提出され、10月31日に公開されました。この提案の中心は、AIモデルに「応答強化システム」（RAS）を提供することであり、ユーザーの問い合わせに基づいて自動的により多くの情報を取得し、その回答の「有効性」をチェックすることを可能にします。具体的には、応答強化システム...

最近、ソーシャルメディアプラットフォームXで、米大統領選に関する虚偽情報、AI生成画像、根拠のない陰謀論を投稿することで「数千ドル」を稼いだとするユーザーが複数存在しています。これらのユーザーは、互いにコンテンツを共有し、1日に何度もリツイートすることで、露出度と収益を増やしています。BBCの調査によると、これらのユーザーは数十ものアカウントが相互に交流し、真偽混在の情報などを共有するネットワークを形成しており、プラットフォーム上での…

TikTokは先日、AI技術を利用した虚偽コンテンツで高齢者のエンゲージメントを不正に獲得する行為を厳しく取り締まると発表しました。TikTokはクリエイターによるAI技術の創作補助を推奨していますが、すべてのコンテンツはプラットフォームの規約を遵守する必要があり、生成系AI技術を利用して科学的根拠に反する、虚偽の、またはデマ情報を掲載することは固く禁じられています。発表によると、一部のアカウントがAI技術を使用して、小僧、軍人、AI女性などの仮想キャラクターを不正に使用し、特定の言葉で高齢者にいいね、フォロー、コメントを誘導したり、場合によっては利益を得るために誘導したりしているとのことです。これらの行為はプラットフォームの規約に違反しています。

ブラジルのアラゴアス州マセイオにて、G20加盟国の首脳は今週金曜日、虚偽情報と闘い、人工知能の将来の発展のための指針を策定することで合意しました。これは、G20において虚偽情報問題を明確に認識し、デジタルプラットフォームの透明性と責任の強化を求めた初めての事例です。画像注記：画像はAI生成、画像ライセンスプロバイダーMidjourneyブラジル大統領ルラのデジタル政策担当秘書であるジョアン・ブラント氏は、AP通信の取材に対し、G20代表らがデジタルプラットフォームを強調したと述べています。

廈門市公安局は最近、AI技術を利用して虚偽の動画を合成した事件を解決しました。任某（32歳、湖北省出身）容疑者は虚偽情報の拡散容疑で逮捕されました。任容疑者はAI技術を用いて虚偽のコンテンツや画像を自動生成し、動画を合成して今日頭条に投稿。広東省のある高齢者が殴打され、孫が川に飛び込んで自殺したというデマ動画を拡散し、大きな注目を集めました。目的はフォロワー数とトラフィックを増やし、利益を得ることでした。任容疑者はAI技術で動画を合成するのにわずか2、3分かかると供述しています。警察は任容疑者に対し刑事強制措置を取りました。この事件は、AI技術の悪用による深刻な結果を警告するものです。

マスク氏のソーシャルメディアプラットフォームX（旧Twitter）は、2024年大統領選挙における虚偽情報の拡散問題に対処するため、AIシステムGrokに調整を加えました。Grokは、ユーザーをvote.govなどの公式情報源へ誘導し、最新の選挙情報を取得できるように設計されています。複数の米国務長官は、Grokが選挙関連問題の処理において誤った情報を提供していることを懸念し、情報混乱につながる可能性を指摘、修正を求めています。バイデン大統領が再選不出馬を表明した後、Grokは一部州の投票締め切り日が過ぎたと誤って報告し、広く波紋を広げました。

研究者らが、従来のCAPTCHA検証に代わる新たな方法として「ヒューマンアイデンティティ証明書」(PHC)システムを提案。オンラインユーザーが人間であることを確認するために、ゼロ知識証明暗号技術を用いて各ユーザーに固有のデジタル証明書を発行。これは個人端末に保存され、プライバシー保護にも配慮。CAPTCHAや生体認証に取って代わるものとなる。しかし、証明書の不正使用、権力の集中、利用上の障壁といった課題も存在。研究では、政府によるパイロットプログラムでPHCの実現可能性を検証すること、そしてAI関連の問題（AIによる情報生成など）への責任をテクノロジー企業が負うべきだと提言。

グーグルの研究者らが、生成AI（GenAI）が虚偽情報によってインターネットを危険にさらしていると警告。グーグルはこの「真偽の戦い」において、推進者と製造者の両方の役割を担っている。AIによる誤情報（例：「ピザに接着剤を塗る」「石を食べる」といったばかげた提案）は、最終的に手動で削除する必要がある。悪用方法は、人物の肖像を改ざんしたり、偽の証拠を作成したりすることで、世論操作、詐欺、または利益獲得を目的としている。生存を脅かすほどのリスクはまだないものの、深刻化しており、悪用事例の9割はシステムの通常の使用における一般的な操作であることが判明している。生成

新たな研究で、嘘の識別を容易にすることを目的としたAIツールが開発されました。従来のポリグラフのように生理反応を測定するのではなく、Googleの大規模言語モデルBERTを基に訓練されたこのツールは、67％の成功率で嘘を識別でき、人間の平均50％を上回ります。しかし、わずか3分の1の参加者だけが、このツールを実践的な検出に使用することに意欲を示しました。実験の結果、このツールを使用する人は、嘘だと非難する声明の割合が58％に達し、ツールを使用しない人の19％を大幅に上回ることが示されました。

Google Cloudの開発プラットフォームであるVertex AIは、企業がGoogleの機械学習と大規模言語モデルを使用してサービスを構築する支援を目的としており、アプリケーションやサービスによる不正確な情報の拡散を防ぐための新機能が導入されています。