Androidユーザー数が30億人を突破する中、ユーザーの安全を守るためのGoogleのプレッシャーは増大しています。ますます巧妙化するサイバー攻撃に対抗するため、Googleは人工知能（AI）への投資を拡大し、マルウェア検知能力の向上、プライバシー保護対策の強化、開発者向けツールの改善に取り組んでいます。これらの取り組みを通じて、Googleは過去1年間に、Google Playストアへの掲載を禁じられたポリシー違反アプリ236万件を阻止しました。さらに、掲載を試みた15万以上のアカウントも停止しました。

最近、セキュリティ研究者らが、著名な機械学習プラットフォームHuggingFaceに2つの悪意のある機械学習モデルが密かにアップロードされているのを発見しました。これらのモデルは、「破損した」pickleファイルを使用することで、セキュリティ検出を巧みに回避しており、懸念されています。ReversingLabsの研究者であるKarlo Zanki氏は、これらのPyTorch形式のアーカイブから抽出されたpickleファイルの先頭が、～を示唆していると指摘しています。

Anthropic社がClaudeのデバイス制御機能であるComputer Use機能をリリースしてまだ2ヶ月も経たないうちに、セキュリティ研究者がその潜在的なセキュリティ脆弱性を発見しました。ネットセキュリティ専門家Johann Rehnberger氏が最新で公開した研究結果は衝撃的です。単純なプロンプトインジェクションによって、AIはマルウェアのダウンロードと実行を誘導される可能性があることが明らかになったのです。Rehnberger氏は、この脆弱性を利用する手法をZombAIsと名付けました。デモでは、彼はClaudeを…

OpenAIは最近、人工知能モデルChatGPTがサイバー犯罪者によって悪用され、マルウェア開発、虚偽情報の拡散、フィッシング攻撃など様々な悪質な活動に使用されていると警告を発しました。新しい報告書によると、2024年初頭以来、OpenAIは世界中で20件以上の詐欺行為に関与し、AIの悪用という深刻な傾向を明らかにしています。これらの活動には、マルウェアのデバッグだけでなく、偽のソーシャルメディアアカウントのためのコンテンツ作成や魅力的なフィッシングメールの生成なども含まれています。

ネットワークセキュリティサービスプロバイダーのCloudflareは先日、AIクローラー保護機能を全ユーザーに無料で提供開始すると発表しました。この機能は、ウェブサイト管理者がウェブサイトデータをより効果的に保護し、無許可のAIシステムによるスクレイピングや利用を防止することを目的としています。

Googleの新しいAI検索機能に問題があり、詐欺サイトやマルウェアを宣伝している可能性があることが判明しました。ユーザーからの報告によると、検索結果が迷惑サイトを指し示し、マルウェアの危険性があるとのことです。Googleは問題解決に取り組んでいると主張していますが、この事件は同社が迷惑サイトに対処する上での課題を浮き彫りにしています。この問題は注目を集めており、GoogleはAI検索分野において依然として課題と改善の余地を抱えていることが示唆されています。

研究者らが「Morris II」と名付けられたコンピューターワームを作成。これは、生成系AIシステムを操作して悪意のあるタスクを実行する。自己複製によって新たなシステムに感染し、破壊的な行動を行うことで拡散する。生成系AIエコシステムとエージェントの相互接続ネットワークを標的に攻撃を行う。研究者らは、スマートフォンや自動車などの分野への影響を警告している。