近年、人工知能技術の急速な発展に伴い、AIツールは大学生が様々なレポートや論文を作成する際の「強力な助っ人」となっています。央视ニュースの報道によると、一部の大学の教員や専門家は、AIで生成された内容を利用した学生の中には、研究データの捏造、実験写真の改ざん、自主的な設計の代替など、不適切な行為に当たる事例があり、既に学術上の不正行為に該当すると指摘しています。 ある大学の課題グループで、学生たちの注目を集める通知がありました。教師は、AIで直接生成された作文を提出した場合、0点と明示的に述べています。

小紅書は最近、不正アカウント対策に関する中間報告を発表し、過去3ヶ月で320万件以上の違反アカウントを処理したと発表しました。この取り組みは、AIによって生成された同質的なコンテンツを利用する不正業者を抑制し、コミュニティの健全性を保護することを目的としています。小紅書の対策は昨年11月から開始され、虚偽のマーケティングや不正アカウント養成行為の取り締まりに重点を置いています。小紅書の「薯管家」の発表によると、これらの不正業者は通常、大量の類似した動画コンテンツを投稿して急速にフォロワーを増やし、その後、転売することで利益を得ています。

先日、小紅書は最新の「ダークグレーマーケットアカウント対策の進捗状況に関する発表」を公開し、過去3ヶ月間に320万件以上のダークグレーマーケットアカウントを処理したと発表しました。発表によると、2023年2月17日現在、「薯管家」チームは対策において、フォロワー数10万人以上のアカウント401件、フォロワー数1万人以上のアカウント9215件を発見、処理しました。これは、ダークグレーマーケットアカウントがコミュニティにおける影響力を無視できないことを示しています。小紅書側は、ダークグレーマーケットアカウントの対策は主に2つの点に集中していると述べています。

長江日報の報道によると、武漢東湖高新技術開発区人民法院は、注目を集める著作権紛争事件の審理を行い、これは武漢で初となるAI生成画像に関する権利保護訴訟となりました。この事件のポイントは、王某氏がAI生成コンテンツの創作者として、自身の著作権を主張し、4000元（日本円にして約8万円）の経済的賠償を獲得したことでした。事の発端は、王某氏が小紅書プラットフォーム上で、「あるAI」アプリを使って制作した画像作品に関する投稿を行ったことでした。統計によると、この投稿は広く注目を集め、多くの…

先日終了したサムスン Unpacked 発表会で、サムスンは最新のGalaxy S25シリーズを発表しました。この新機種の重要な特徴の一つとして、初めて「コンテンツクレデンシャル（Content Credentials）」規格に対応したことが挙げられます。この規格は、ユーザーがAI生成コンテンツを識別し、デジタルコンテンツの信頼性と出所を確保することを目的としています。コンテンツクレデンシャル規格は、コンテンツソースとオーセンティシティ連合（C2PA）によって策定されており、サムスンもこの連合の一員となっています。この規格は…

人工知能技術の急速な発展に伴い、AIによって生成されたテキスト、画像、ビデオは様々な分野でますます高度に活用されるようになっています。しかし同時に、信頼性に関する危機も発生しており、虚偽情報の拡散が社会に潜在的な脅威をもたらしています。この課題に対処するため、騰訊は先日、AI技術を用いてAIによる虚偽情報を識別することを目的とした、新たなAI生成コンテンツ検出ツールを発表しました。このツールは騰訊の朱雀实验室によって開発され、AI生成テキスト検出システムとAI生成画像検出システムの2つのシステムで構成されています。騰訊は公式に発表で、

Appleは最近、AIが生成したニュース通知サマリーに重大な虚偽情報が含まれていたため、iOS18.3、iPadOS18.3、macOS Sequoia15.3の最新の開発者プレビュー版において、ニュースおよびエンターテインメントアプリの通知サマリー機能をすべて一時停止すると発表しました。この調整は、BBCによる以前の苦情に端を発しています。BBCは、AppleのAIシステムが報道内容を重大に歪曲し、ユニテッドヘルスCEOのブライアン・トンプソン殺害容疑者ルイジ・マンジオネが自殺を選んだと誤って主張したと指摘しました。

Instagramの責任者アダム・モセリは、最近のThreadsの投稿で、増加するAI生成コンテンツに直面するソーシャルメディアユーザーに警戒を促しました。AI技術は現実と非常に似たコンテンツを生成できるようになったため、オンラインで見かける画像や情報は必ずしも真実ではないと指摘しています。情報の真偽を判断する助けとして、モセリはコンテンツの出典を検討すべきだと述べ、ソーシャルプラットフォームにも責任があると付け加えました。

Instagramの責任者であるアダム・モセリはソーシャルメディアで、特に現実と誤認されやすいAI生成コンテンツについて、オンラインで見かける画像に警戒すべきだと述べています。モセリは、AI技術がリアルなコンテンツを作成する能力を著しく向上させているため、ユーザーは情報源を考慮して注意深く扱うべきであり、ソーシャルプラットフォームは、この点で支援する責任があると強調しました。彼は「インターネットプラットフォームとして、AI生成コンテンツを可能な限り表示することが私たちの責任です」と書いています。しかし、M

年初、生成AIが世界中の選挙に干渉し、プロパガンダや虚偽情報を拡散するという懸念が広く存在していました。しかし、Metaが最近発表した報告書によると、これらの懸念は同社のプラットフォームでは現実のものとはなっていないようです。Metaは、Facebook、Instagram、Threadsなどのソーシャルメディアプラットフォームにおいて、生成AIによる選挙関連情報への影響は極めて限定的であると述べています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyがMetaの依頼により作成しました。

人工知能技術の発展に伴い、GoogleやMetaなどのテクノロジー企業が、ユーザーレビューや評価を用いてAIでレスポンスを生成するプラットフォームの利用は、新たな名誉毀損のリスクをもたらす可能性があります。オーストラリアの法律専門家は、GoogleやFacebook上で名誉毀損に該当する可能性のあるコメントが投稿された場合、通常は投稿者自身が法的責任を負うと指摘しています。しかし、2021年、オーストラリア高等法院におけるディラン・ウォラー事件の判決は、名誉毀損コメントを掲載するプラットフォーム（ソーシャルメディアページなど）も責任を負う可能性があるという重要な判例となりました。

グーグルは最近、AI生成テキストの識別を支援するテキスト透かしツールSynthIDをオープンソース化すると発表しました。このツールは現在、グーグルの「責任ある生成AIツールキット」を通じて一般公開されています。グーグルDeepMindの研究担当バイスプレジデントであるPushmeet Kohli氏は、この技術により、他の生成AI開発者はテキスト出力が自社の大規模言語モデル（LLM）によるものかどうかを検出できるようになり、より責任ある開発に繋がるとしています。

プリンストン大学の研究チームが最近発表した興味深い研究報告によると、2024年8月時点で、ウィキペディアの新規記事のおよそ4.36％に、顕著なAI生成コンテンツが含まれていたことが判明しました。この研究は、Creston Brooks、Samuel Eggert、Denis Peskoffの3人の学者によって行われ、GPTZeroとBinocularsというツールを使用して、これらのAI生成コンテンツを検出しました。研究は…

Metaは最近、ユーザーの興味や現在のトレンドに基づいてAI生成コンテンツをFacebookとInstagramのフィードに挿入する新機能のテストを開始しました。Metaによると、これらのAI生成画像は各ユーザーの好みに合わせて調整されます。ユーザーはいくつかの提案されたプロンプトをクリックして、コンテンツを新しい方向に導くことができます。さらに興味深いことに、ユーザーは画面をスワイプするだけで、AIがリアルタイムでよりパーソナライズされたコンテンツを作成することができます。Metaが推進する

AI技術は、便利さをもたらす一方で、リスクも伴う両刃の剣です。これらのリスクをより適切に管理するために、カリフォルニア州知事ギャビン・ニューサム（Gavin Newsom）は最近、AI生成コンテンツ、特にディープフェイク（deepfakes）現象を規制する9法案に署名しました。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyによって提供されています。これらの法案の中で、SB1047法案は特に注目に値します。この法案は、AI開発者が安全対策を講じることを義務付けています。

アリババの通義は、間近に迫ったクラウドコンピューティングカンファレンス「雲栖大會」で動画生成大規模モデルを発表し、業界で大きな注目を集めています。現在、通義Appチャンネルと通義万象PC版では既に「動画生成」の予約受付が開始されていますが、機能はまだ公開されていません。ページの情報によると、この新しい動画生成大規模モデルはアリババ傘下の通義研究所が独自開発したものであり、「テキストから動画」と「画像から動画」という2つの主要な制作モードが含まれています。ユーザーはテキストまたは画像から対応する動画コンテンツを生成できます。今回の発表は、コンテンツ制作者にとって間違いなく大きな転換点となるでしょう。

今日、ジェネレーティブAI（生成AI）の発展により、ディープフェイクや合成メディアがますます普及しています。この課題に対処するため、多くの組織がコンテンツの起源を追跡するためのデジタルウォーターマーク技術の改良に努めています。まだ完全な成功を収めた組織はありませんが、「コンテンツの起源と真正性に関する連合」（C2PA）はメンバーを増やし続けています。C2PAは、アマゾンが新たな指導委員会メンバーに加わったと発表しました。C2PAはLinux Foundation傘下のオープンな技術標準団体です

Metaは最近、Instagram、Facebook、ThreadsにおけるAI編集済みコンテンツの表示方法を変更すると発表しました。この変更により、コンテンツがAIツールで編集されたことを示す「AI情報」ラベルは、ユーザー名の下から投稿メニュー内へと移動します。以前はユーザー名はっきりラベルを確認できましたが、今後はメニューをクリックする必要があります。ただし、Metaは完全にAIによって生成されたコンテンツについては、引き続き表示されると述べています。

廈門市公安局は最近、AI技術を利用して虚偽の動画を合成した事件を解決しました。任某（32歳、湖北省出身）容疑者は虚偽情報の拡散容疑で逮捕されました。任容疑者はAI技術を用いて虚偽のコンテンツや画像を自動生成し、動画を合成して今日頭条に投稿。広東省のある高齢者が殴打され、孫が川に飛び込んで自殺したというデマ動画を拡散し、大きな注目を集めました。目的はフォロワー数とトラフィックを増やし、利益を得ることでした。任容疑者はAI技術で動画を合成するのにわずか2、3分かかると供述しています。警察は任容疑者に対し刑事強制措置を取りました。この事件は、AI技術の悪用による深刻な結果を警告するものです。

OpenAI、Adobe、Microsoftの3大テクノロジー企業が、カリフォルニア州のAB3211法案を共同で支持しています。この法案は、テクノロジー企業に対し、生成されたコンテンツにラベルを付けることを義務付けるもので、人工知能（AI）によって作成されたコンテンツの識別を容易にすることを目的としています。主な内容としては、AI生成の写真、動画、音声クリップのメタデータに透かしを付け、大規模オンラインプラットフォームが、一般の視聴者が容易に理解できる方法でAI生成コンテンツにラベルを付けることを求めています。この法案は、情報源の問題に対処し、AI技術に対する一般の理解と信頼を高めることを目的としています。業界において以前から…