先日、抖音安全センターは発表を行い、プラットフォーム上の株式投資に関するコンテンツの監視を強化し続け、健全なネット環境を構築することに取り組むと発表しました。プラットフォームは、金融および証券の専門家が信頼できる実際の株式情報を共有することを奨励し、デマの流布や拡散をしない良い風潮を促進することで、業界の発展を共同で推進することを提唱しています。しかしながら、抖音は、関連資格を持たない少数のアカウントが、いわゆるAIツールを利用して虚偽情報を発信し、ユーザーの注目を集め、詐欺行為に及んでいることを発見しました。これらのアカウントは、しばしば効率的なAI銘柄選定ツールを推奨することで…

宇樹科技の創業者である王興興氏は先日、個人アカウントとして微信ビデオアカウントに登録し、6月25日に最初の動画を投稿。最近ネット上で流れている不正確な情報について言及しました。動画の中で、彼は個人や会社に関する情報の真偽を見極めるよう視聴者に促し、ネット上に流布している多くの情報は事実ではないと強調。今後、ビデオアカウントを通じて、ロボット製品の技術向上プロセスや開発秘話を紹介していくことを明らかにしました。 これ以前、宇樹科技は公式チャンネルを通じて声明を発表し、全ての株式取引は会社の資金調達責任者を通じてメールで直接行われており、仲介機関は一切存在しないと明言していました。

AI技術の発展に伴い、虚偽情報も増加しています。最近では「2ヶ月間のネット恋愛で相手がAIだった」というニュースが話題となりました。央视の報道によると、上海の劉さんは短編動画プラットフォームで「焦女士」という女性と知り合い、2ヶ月間の交流を経て恋人関係に発展しました。しかし、劉さんは「焦女士」とのやり取りの中で、開店資金、仕入れ資金、家族の手術費用などを理由に、約20万元もの資金を騙し取られました。この期間に…

李亮は、「バイトAIチーム大変革」というタイトルの記事に多くの虚偽情報が含まれていると指摘した。記事に記載されている技術副社長の楊震が退職する予定であることや、冯佳時が起業のために離職するという内容は、いずれも誤った情報源に起因している。また、張一鳴が豌豆荚の創設者である王俊煜を訪問したり、上海のモー速空間スタートアップに関する報道も、事実とは一致していない。

最近、GitLabとその幹部は、同社の人工知能（AI）能力と市場需要に関する虚偽広告を理由に、投資家からの訴訟に再び直面しています。これは5ヶ月以内3件目のGitLabに対する訴訟であり、最初の証券投資家訴訟は2024年9月9日に提起され、その後2025年2月5日に修正され、より詳細な内容が記述されました。続いて、2025年2月14日と2月19日に、2件の派生訴訟が提起されました。派生訴訟は通常、株主が幹部に対して会社を代表して訴訟を起こすものです。

最近、アリババがAI企業DeepSeekに10億ドルを投資するという噂が市場に広がり、大きな注目を集めて議論を呼んでいます。これに対し、アリババグループ副社長の顔喬氏は自身のソーシャルメディアで、この情報は事実ではないと明確に否定しました。画像の注記：画像はAIによって生成され、画像ライセンスサービスプロバイダーMidjourneyを使用しています。顔喬氏は朋友圈で、中国杭州を拠点とする企業であるDeepSeekは注目と支持に値するものの、外部からの噂はアリババの投資とは関係ないと述べています。

人工知能技術の急速な発展に伴い、AIによって生成されたテキスト、画像、ビデオは様々な分野でますます高度に活用されるようになっています。しかし同時に、信頼性に関する危機も発生しており、虚偽情報の拡散が社会に潜在的な脅威をもたらしています。この課題に対処するため、騰訊は先日、AI技術を用いてAIによる虚偽情報を識別することを目的とした、新たなAI生成コンテンツ検出ツールを発表しました。このツールは騰訊の朱雀实验室によって開発され、AI生成テキスト検出システムとAI生成画像検出システムの2つのシステムで構成されています。騰訊は公式に発表で、

アップル社が最近発表したAIニュース要約機能が、速報ニュースの要約において重大な誤りを繰り返し、ユーザーに大量の虚偽情報が伝わる事態を引き起こしている。この機能の発表以来、多くの報道機関やユーザーから、アップルの技術が未成熟であり、正確な情報を効果的に提供できないとして強い反発を受けている。ワシントンポスト紙のテクノロジーコラムニスト、ジェフリー・ファウラー氏がソーシャルメディアで、アップルのAIがニュース要約において事実を歪めたと投稿したと報じられている。

OpenAIのCEO、サム・アルトマン（Sam Altman）氏は先日、妹アンニー・アルトマン（Annie Altman）氏からの性加害の申し立てに対し、「完全に虚偽」と反論した。セントルイス・ポスト紙の報道によると、アンニー氏は先週月曜日に提訴し、サム氏から1990年代から2000年代にかけて9年間にわたり性加害を受けていたと主張している。画像注記：画像はAI生成、画像ライセンスプロバイダーMidjourney サム氏のソーシャルメディア…

生成AIの商業化に伴い、オンライン上の虚偽情報が急増しています。認証プラットフォームSumsubのデータによると、2023年から2024年にかけて、世界的なディープフェイクの数は4倍に増加しました。2024年には、ディープフェイクが全ての不正行為の7％を占め、なりすまし、アカウント乗っ取りから複雑なソーシャルエンジニアリング活動まで、様々な形態に及んでいます。この問題に対処するため、MetaはAI生成動画に透かしを挿入する新しいツール「Meta Video Seal」を発表しました。

南方都市報の報道によると、公安部サイバーセキュリティ局は最近、懸念される新たなネット上の虚偽情報拡散の手口を明らかにする典型的な事例を発表しました。広州公安機関は、人工知能ツールを利用して大量の偽情報を生成した犯罪グループを摘発し、犯罪容疑者6人を逮捕しました。犯罪グループは、オンラインプラットフォームのトラフィック収益を得ることを目的とし、巧妙に計画された犯罪手法を用いました。具体的には、アルバイトを募集してソーシャルメディアアカウントを登録させ、AIツールを使って人気記事を迅速に書き換え、大量の偽情報を投稿しました。統計によると、このグループは合計50万件以上の誘導目的の画像付きテキスト情報を投稿しました。

年初、生成AIが世界中の選挙に干渉し、プロパガンダや虚偽情報を拡散するという懸念が広く存在していました。しかし、Metaが最近発表した報告書によると、これらの懸念は同社のプラットフォームでは現実のものとはなっていないようです。Metaは、Facebook、Instagram、Threadsなどのソーシャルメディアプラットフォームにおいて、生成AIによる選挙関連情報への影響は極めて限定的であると述べています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyがMetaの依頼により作成しました。

テキサス州の裁判で、弁護士が裁判書類にAI生成の架空の判例と引用を使用したとして制裁を受けました。この事件は、弁護士によるAIツールの法的業務への利用に関する懸念を改めて浮き彫りにしています。この事件は、グッドイヤータイヤ社に対する不当解雇訴訟に関連しています。画像注記：画像はAI生成、画像ライセンスプロバイダーMidjourney

最近、スタンフォード大学のコミュニケーション学教授ジェフ・ハンコック（Jeff Hancock）氏が、政治的ディープフェイク動画に関する事件で、人工知能を用いて虚偽の証言を作成したとして告発され、大きな注目を集めています。この事件はミネソタ州司法長官キース・エリソン（Keith Ellison）氏によって提起され、ミネソタ州で最近可決された政治的ディープフェイク動画を禁止する法律に関連しており、表現の自由に対する脅威となる可能性があると懸念されています。画像の注記：画像はAIによって生成され、Midjourneyという画像権利サービスプロバイダーから許可を得ています。

2024年のアメリカ大統領選挙後、オンライン上での虚偽情報の拡散が驚異的な速度で拡大し、アメリカ国民の候補者、そして公衆衛生、気候変動、移民問題に関する見解に深刻な影響を与えています。生成系AIの発展と、ディープフェイクコンテンツ生成能力、そして「幻覚」的事実を生み出す傾向は、この問題をさらに悪化させる可能性があります。画像出典：AI生成画像、画像ライセンス提供元Midjourney この課題に対処するため、ノルウェーのスタートアップ企業Factiverseが誕生しました。同社は10…

ドイツのボーフム大学、GESISライプニッツ研究所、CISPAハイムホルツセンターが共同で行った最近の研究によると、AIで生成されたアバターを使用するX（旧Twitter）アカウントは、全アカウントのわずか0.052％に過ぎません。研究者らは約1500万のXアカウントを分析し、そのうち7723アカウントがAI生成のアバターを使用していることを発見しました。画像注記：画像はAIによって生成されており、画像ライセンスサービスプロバイダーMidjourneyからのものです。これらのアカウントは明らかに特徴的な…

マイクロソフトは最近、人工知能が生成する虚偽情報を軽減または排除するための技術的手法を目的とした特許を出願しました。この特許は「外部知識とフィードバックを利用した言語モデルとの対話」と題され、昨年米国特許商標庁（USPTO）に提出され、10月31日に公開されました。この提案の中心は、AIモデルに「応答強化システム」（RAS）を提供することであり、ユーザーの問い合わせに基づいて自動的により多くの情報を取得し、その回答の「有効性」をチェックすることを可能にします。具体的には、応答強化システム...

最近、ソーシャルメディアプラットフォームXで、米大統領選に関する虚偽情報、AI生成画像、根拠のない陰謀論を投稿することで「数千ドル」を稼いだとするユーザーが複数存在しています。これらのユーザーは、互いにコンテンツを共有し、1日に何度もリツイートすることで、露出度と収益を増やしています。BBCの調査によると、これらのユーザーは数十ものアカウントが相互に交流し、真偽混在の情報などを共有するネットワークを形成しており、プラットフォーム上での…

TikTokは先日、AI技術を利用した虚偽コンテンツで高齢者のエンゲージメントを不正に獲得する行為を厳しく取り締まると発表しました。TikTokはクリエイターによるAI技術の創作補助を推奨していますが、すべてのコンテンツはプラットフォームの規約を遵守する必要があり、生成系AI技術を利用して科学的根拠に反する、虚偽の、またはデマ情報を掲載することは固く禁じられています。発表によると、一部のアカウントがAI技術を使用して、小僧、軍人、AI女性などの仮想キャラクターを不正に使用し、特定の言葉で高齢者にいいね、フォロー、コメントを誘導したり、場合によっては利益を得るために誘導したりしているとのことです。これらの行為はプラットフォームの規約に違反しています。