2023年ジェネレーティブAIアプリケーションセキュリティトレンド予測

グーグル、新たなAIセキュリティモデルSec-Gemini v1を発表　数秒でサイバー攻撃の根本原因を特定

グーグルは公式セキュリティブログで、画期的なイノベーションであるSec-Gemini v1を発表しました。これは、サイバーセキュリティAI分野の発展に焦点を当てた、全く新しい実験的な人工知能モデルです。この発表は、AI技術を活用して増え続けるサイバー脅威に対抗するというグーグルの重要な一歩を示しています。攻防の非対称性への対応：AIによる防御者の巻き返しグーグルは、現在のサイバーセキュリティ分野が、攻防の非対称性という根本的な課題に直面していると指摘しています。防御者は、あらゆる潜在的なサイバー脅威に対処する必要があります。

マスク氏、Xプラットフォームのダウンの原因を明らかに：大規模サイバー攻撃が原因

セキュリティリスクに注意！Ollama大規模言語モデルツールに深刻な脆弱性が発見される

Mindgard、AIセキュリティテスト技術開発に向け800万ドルの資金調達

Mindgardは、研究開発の加速と米国市場への拡大を目指し、800万ドルの資金調達を発表しました。この資金調達は.406Venturesがリードインベスターとなり、Atlantic Bridge、Willowtree Investments、既存投資家のIQ CapitalとLakestarが参加しました。また、Mindgardは製品責任者とマーケティング担当者として、業界をリードする2人を新たに任命しました。

ChatGPT検索機能、潜在的リスクに直面：悪用され、信頼できない内容が出力される可能性

最近、英国のガーディアン紙による調査で、OpenAIのChatGPT検索ツールにセキュリティ上の欠陥がある可能性が明らかになりました。調査によると、ChatGPTは隠されたコンテンツを含むウェブページのサマリーを処理する際に、操作され、悪意のあるコードを返す可能性があります。これらの隠されたコンテンツには、ChatGPTのレスポンスを妨害するためのサードパーティからの指示や、製品やサービスを宣伝するための大量の隠されたテキストが含まれる場合があります。画像の出典：AI生成画像、画像ライセンス提供サービスMidjourneyテスト中、ChatG

英国大臣、ロシアによるAI強化サイバー攻撃への陰謀を警告

ランカスター公爵大臣パット・マクファーデンは、月曜日にロンドンで開催されるNATO会議で警告を発する予定だ。ロシアなどの英国への敵対国が、人工知能（AI）を利用して英国のインフラに対するサイバー攻撃能力を高めようとしているという。この新たな脅威に対処するため、英国政府は820万ポンドを投資し、政府通信本部（GCHQ）などの機関と協力して、ロンドンに人工知能セキュリティ研究室（LASR）を設立する。同研究所は、送電網などの重要インフラを標的にした可能性のある高度なサイバー攻撃を防ぐ方法に重点的に取り組む。画像注記：写真

警告！AIを活用した悪意のある攻撃が企業にとって最大の脅威に

Gartnerが最近発表したレポートによると、サイバー攻撃における人工知能（AI）の利用は、企業が直面する最大の脅威として3四半期連続で上位を占めています。同コンサルティング会社は7～9月の間に286人の上級リスクおよび監査幹部を対象に調査を実施し、その結果、AI強化された悪意のある攻撃について80％の回答者が深刻な懸念を示しました。AIを利用したサイバー攻撃が増加しているという証拠があるため、この傾向は驚くべきことではありません。画像出典：AI生成画像、画像ライセンスサービス提供

偽装ChatGPTアプリによるサイバー攻撃発生、PipeMagicトロイの木馬が悪用される！

最近、Kasperskyが発表した調査報告書によると、サイバー犯罪者が偽のChatGPTアプリケーションを利用してバックドア攻撃を行い、マルウェアを拡散させていることが明らかになりました。注目すべきは、攻撃対象が2022年のアジアから2024年のサウジアラビアに移行しており、攻撃戦略が進化していることを示しています。画像注記：画像はAI生成、画像ライセンス提供元Midjourney。Kasperskyの調査によると、今回の…

HP、生成AIによる新たなサイバー攻撃の波を警告

HPが最近発表した『脅威インサイトレポート』は、警戒を促す新たなサイバー攻撃の動向を明らかにしています。レポートによると、2024年4月から6月にかけて、攻撃者は生成AIを利用して悪意のあるソフトウェアを作成し、広告を通じてトロイの木馬を悪意を持って拡散したり、画像ファイルにウイルスを埋め込んだりするなどしています。これらの新たな動きは、サイバーセキュリティの脅威の複雑さと頻度が上昇していることを示しています。レポートでは、研究者らがフランス語圏のユーザーを標的としたマルウェアを発見し、そのコードの構造、コメント、関数名が明らかにされたと述べています。

企業は生成AIのビジネスチャンスに着目するも、サイバー攻撃への懸念も

調査によると、企業の3分の5が生成AIをビジネスチャンスと認識している一方、サイバー攻撃への懸念も表明しています。 プライスウォーターハウスクーパース（PwC）は、新興技術競争において前進するには、企業はリスクを冒さなければならないと指摘しています。企業の3割以上がサイバーリスクに極めて敏感である一方、6割が生成AIをビジネスチャンスと考えています。