今日開催された「今日頭条プラットフォームガバナンス公開日」において、安全運営責任者の閻夢茹氏が、2024年のプラットフォームガバナンスの成果と2025年の計画を発表しました。彼女は、AI技術によって低品質コンテンツの盗用が容易になり、「アリババAI」などのツールによって同質的なコンテンツの蔓延が加速していると指摘しました。データによると、2024年には同質的なコンテンツ781万件を処理し、違反アカウント6万3000件を凍結しました。また、地方組織による同質的なデマの拡散に関し、警察と協力して2件の立件を行い、6件のガバナンスに関する公告を発表しました。閻氏は、AIによる記事の盗用は今後ますます複雑化すると分析しています。

人工知能技術の急速な発展に伴い、AIによって生成されたテキスト、画像、ビデオは様々な分野でますます高度に活用されるようになっています。しかし同時に、信頼性に関する危機も発生しており、虚偽情報の拡散が社会に潜在的な脅威をもたらしています。この課題に対処するため、騰訊は先日、AI技術を用いてAIによる虚偽情報を識別することを目的とした、新たなAI生成コンテンツ検出ツールを発表しました。このツールは騰訊の朱雀实验室によって開発され、AI生成テキスト検出システムとAI生成画像検出システムの2つのシステムで構成されています。騰訊は公式に発表で、

サイバーセキュリティにおける継続的な脅威であるフィッシング攻撃に対して、より強力な防御手段が登場しました。カイザースラウテルン大学の研究者らが、フィッシングメールの識別精度を大幅に向上させる革新的なAI検出方法を開発しました。研究チームは、フィッシングがサイバーセキュリティにおける最大の脅威の1つとなっていると指摘しています。推定90%の成功したサイバー攻撃は、フィッシングを初期攻撃手段としています。この課題に対処するため、研究者らは少样本学習と検索拡張生成（RAG）という2つのAI技術を巧みに組み合わせました。

人工知能の急速な発展に伴い、AI「ハルシネーション」現象がますます頻繁に発生し、多くの企業に大きな悩みの種となっています。カスタマーサービス用チャットボットが実際には存在しない製品について自信満々に説明したり、金融AIが市場データをでっち上げたり、医療用ロボットが危険な医療アドバイスを提供したりといった問題が発生しています。これらの問題はもはや単なる面白い話ではなく、企業の評判と収益に深刻な影響を与える重大なリスクとなっています。この課題に対処するため、サンフランシスコに拠点を置くスタートアップ企業Patronus AIは、リアルタイムでの検出と防止を目的とした、世界初のセルフサービスプラットフォームを発表しました。

COVID-19 禍におけるオンライン試験を経て、キャンパスでは伝統的な対面試験が復活しました。この変化の背景には、学生にリアルな試験の「緊張感」を取り戻させるという目的の他に、見逃せない問題があります。それは、不正行為と人工知能の蔓延です。ChatGPTのようなAIツールが登場して以来、不正行為の可能性は急増しているようです。Turnitinのデータによると、2023年4月に導入されたAI検出機能は、最初の1年間で…

OpenAI社内では、ChatGPT生成テキストに透かし技術を導入し、学生による剽窃を防ぐべきか否かで議論が巻き起こっています。この透かし技術は、モデルの単語やフレーズの予測を調整することで検出可能なパターンを生成し、教師による課題の剽窃検出を支援することを目的としており、テキストの質には影響を与えません。高い精度を誇り、単純な書き換えにも耐性がありますが、他のモデルを用いた書き換えでは透かしを回避できるため、懸念が生じています。透かしの導入は、一部ユーザーにスティグマを与え、利用率の低下につながる可能性があります。そのため、技術の有効性とユーザーエクスペリエンスの両立が課題となっています。

カリフォルニア大学ロサンゼルス校ジョンソン総合がんセンターの研究者らは、侵襲性前立腺癌の人工知能検出に関する研究に対し、5年間で500万ドルの助成金を得ました。米国国立癌研究所から提供されたこの資金は、新たな癌バイオマーカーを発見し、侵襲性前立腺癌の検出と予測にAI技術を開発することを目的としています。前立腺癌の診断と治療においては幾つかの進歩が見られていますが、依然として男性の健康における大きな問題となっています。

OpenAIは、AI生成画像を識別できる、高精度なAI検出ツールを開発中です。OpenAIの最高技術責任者であるミラ・ムラティ氏は、このツールの信頼性は99％に達すると述べています。このツールは、虚偽のニュース報道防止に重要な意味を持ちます。OpenAIは、GPT-5以降の新しいAIモデルの発表も計画しています。