AIセキュリティ企業Adversa AIが衝撃的な報告を発表しました。イーロン・マスク率いるxAIが最近リリースしたGrok 3モデルに重大なセキュリティ上の脆弱性が存在するというものです。Adversaの研究チームは、この最新のAIモデルが「簡単な脱獄攻撃」を受けやすいことを発見しました。これにより、悪意のある者が「子供を誘拐する方法」「死体の処理方法」「DMTの抽出方法」「爆弾の製造方法」など、機密性の高い情報を入手できる可能性があります。さらに悪いことに、Adversa

コロンビア大学とメリーランド大学の研究チームが最近発表した新たな研究によると、インターネットアクセス機能を持つAIエージェントには深刻なセキュリティ上の脆弱性があることが明らかになりました。この研究では、攻撃者が簡単な操作でこれらのAIシステムをだまし、ユーザーの個人情報漏洩、悪意のあるファイルのダウンロード、さらにはユーザーの連絡先に詐欺メールを送信させることができることを示しています。これらの攻撃には、専門的なAIやプログラミングの知識は一切必要なく、衝撃的です。画像出典：AI生成画像、画像ライセンスサービス

Androidユーザー数が30億人を突破する中、ユーザーの安全を守るためのGoogleのプレッシャーは増大しています。ますます巧妙化するサイバー攻撃に対抗するため、Googleは人工知能（AI）への投資を拡大し、マルウェア検知能力の向上、プライバシー保護対策の強化、開発者向けツールの改善に取り組んでいます。これらの取り組みを通じて、Googleは過去1年間に、Google Playストアへの掲載を禁じられたポリシー違反アプリ236万件を阻止しました。さらに、掲載を試みた15万以上のアカウントも停止しました。

英国政府は最近、元の名称「AI安全研究所」を「AI安全研究院」に変更すると発表しました。これは、政府のAI分野における戦略の大幅な転換を示しています。新しい名称は、機関の機能変化を反映しているだけでなく、英国政府がAI産業の発展を推進する上で揺るぎない決意を持っていることも示しています。画像注記：画像はAIによって生成され、画像ライセンスプロバイダーMidjourneyからのものです。この変更は、科学・産業・技術省によって発表され、新しいAI安全研究院はサイバーセキュリティに重点を置き、〜を目的としています。

わずか6日間で、参加者はAnthropicの人工知能（AI）モデルClaude3.5のすべてのセキュリティ対策を回避することに成功しました。この突破は、AIセキュリティ対策分野に新たな議論をもたらしました。元OpenAIアラインメントチームメンバーで、現在はAnthropicに所属するJan Leike氏はXプラットフォームで、参加者がすべての8つのセキュリティレベルを突破したと発表しました。この共同作業には、約3,700時間のテストと参加者からの300,000件のメッセージが含まれていました。挑戦者たちは…

今日のデジタル時代において、子供のオンライン安全はますます重要になっています。最近、Roblox、Discord、OpenAI、Googleは、AI時代のために拡張可能で相互運用可能なセキュリティーインフラストラクチャを構築することを目的とした、ROOST（Robust Open Online Safety Tools：堅牢なオープンなオンライン安全ツール）という非営利組織を共同で設立しました。この新組織は、公共機関と民間機関にオープンソースのセキュリティツールを提供し、特に子供の安全に焦点を当て、それぞれのプラットフォームでの保護を強化することを目指しています。画像注記：画像はAIによって生成されました

奇安信XLab研究所は2月6日、DeepSeekユーザーを標的とした大規模なフィッシング攻撃に関する最新のセキュリティレポートを発表しました。レポートによると、DeepSeekを偽装したフィッシングサイトの数は2000件を超え、増加し続けています。2024年12月1日から2025年2月3日の間に、DeepSeekを偽装したドメインが2650件発見されました。この偽装ドメイン登録活動は2025年1月26日に始まり、1月28日にピークに達しました。増加速度は…

近年、啓明星辰は公式微信アカウントにおいて、「安星」インテリジェントエージェントとDeepSeek大規模言語モデルの完全統合を発表しました。この統合は、特にセキュリティ運用、脅威検知、脅威インテリジェンス、データセキュリティなど、情報セキュリティ分野における重要な一歩となります。中国を代表する情報セキュリティソリューションプロバイダーである啓明星辰は、セキュリティ防御能力の向上に継続的に取り組んでいます。今回のDeepSeek大規模言語モデルとの連携により、同社の技術力はさらに強化されました。

この度、奇安信はDeepSeek（深度求索）との包括的な連携を完了したことを発表しました。これは、同社のQAXセキュリティ大規模言語モデルの更なる応用と発展を示すものです。奇安信によると、このセキュリティ大規模言語モデルは、脅威分析、セキュリティ運用、侵入テストと脆弱性管理、アイデンティティとアクセス管理など、複数の重要な分野で既に深く統合されているとのことです。画像注記：画像はAIによって生成され、画像ライセンスサービスプロバイダーMidjourneyによって提供されています。近年、ますます深刻化する情報セキュリティ情勢において、サイバー攻撃は...

最近、Gmailユーザーは前例のないサイバーセキュリティ危機に直面しています。報道によると、この攻撃はこれまでで最も高度なフィッシング攻撃と考えられており、著名なセキュリティ専門家ですら騙されかけたとのことです。攻撃者は人工知能技術を利用してGoogleカスタマーサービスになりすまし、ユーザーアカウントにセキュリティ上の問題があると警告する緊急メッセージを送信し、個人情報の提供を誘導しようとします。この事件の発生は信じがたいものです。被害者の一人であるザック・ラッタ（Zach Latta）氏は自身の経験を共有しました…

近年、国産大規模言語モデルDeepSeekが世界AI業界で頭角を現し、その技術力は注目を集めていますが、同時に外部からのサイバー攻撃の脅威にも直面しています。この状況を受け、360グループ創設者である周鴻禕氏は、360がDeepSeekに包括的なネットワークセキュリティ保護を無償で提供すると発表し、国産AI技術の発展を支援する姿勢を示しました。

ドイツのセキュリティ研究者ベンヤミン・フライシュ氏がMicrosoftのGitHubに報告書を公開し、OpenAIのChatGPT APIに深刻なセキュリティ脆弱性が存在し、分散型サービス拒否（DDoS）攻撃に悪用される可能性があると指摘しました。この脆弱性により、攻撃者は簡単なHTTPリクエストでChatGPTのクローラーを利用し、任意のウェブサイトに大規模なネットワークリクエストを送信し、ウェブサイトのダウンにつながる可能性があります。画像出典：AI生成画像

マイクロソフトは、デジタル犯罪対策ユニット（Digital Crimes Unit）を通じて、生成型人工知能（AI）ツールが悪用されたサイバー犯罪に対抗する法的措置に着手しました。バージニア州東地区で提出された非公開の訴状によると、マイクロソフトはAI製品・サービスのセキュリティ向上に努めているものの、サイバー犯罪者も有害なコンテンツ作成のためセキュリティ対策の回避策を模索し、常に進化していると述べています。マイクロソフトは、一部のサイバー犯罪グループが生成型AIを…

先日、NvidiaはNeMo Guardrailsプラットフォームに3つの新たなセキュリティ機能を追加したことを発表しました。これは、企業がAIチャットボットをより適切に管理および制御することを支援することを目的としています。これらのマイクロサービスは、AIセキュリティとコンテンツモデレーションにおける一般的な課題に特化しており、実用的なソリューションを提供します。その中で、コンテンツセーフティサービスは、AIがユーザーに応答する前にそのコンテンツを審査し、潜在的な有害な情報がないかを検出します。このサービスは、不適切なコンテンツの生成を防止するのに役立ちます。

Nvidiaは最近、NeMo Guardrailsオープンソースツールキットの拡張機能として、3つの新しいNIM（Nvidia Infrastructure Microservices）マイクロサービスを発表しました。これは、企業向けAIエージェントアプリケーションにより高度なセキュリティ制御を提供することを目的としています。これらの3つの新しいサービスはそれぞれ独自の機能を備えています。1つは、有害または偏ったコンテンツの生成を防ぐためのコンテンツセキュリティです。2つ目は、会話が承認されたトピックの範囲内に留まることを保証することです。3つ目は、AIエージェントがシステムの制限を突破したり、脱獄したりするのを防ぐことです。

最近の重要会議で、マイクロソフトCEOのサティア・ナデラ氏は、次期大統領ドナルド・トランプ氏と億万長者イーロン・マスク氏と詳細な議論を行いました。会議の主な議題は人工知能（AI）とサイバーセキュリティであり、テクノロジー業界と新政権の関係強化を示しています。画像注記：画像はAI生成、画像ライセンスプロバイダーMidjourney

2021年以降、マイクロソフトのAIセキュリティチームは100種類以上の生成AI製品をテストし、弱点と倫理的問題を調査しました。その発見は、AIセキュリティに関する一般的な仮説に異議を唱え、人間の専門知識の継続的な重要性を強調しています。最も効果的な攻撃は常に最も複雑な攻撃とは限らないことが証明されました。マイクロソフトのレポートでは、ある研究が引用されており、「真のハッカーは勾配を計算するのではなく、プロンプトエンジニアリングを使用する」と述べています。この研究は、人工知能セキュリティ研究と現実世界の実際を比較しています

最近、マイクロソフトはバージニア州東地区地方裁判所で、Azure OpenAIプラットフォームに不正アクセスし、有害なコンテンツを大量に生成したとして、複数のハッカーを訴追しました。この事件は、人工知能分野の安全性とリスクに対する懸念を改めて浮き彫りにしています。訴状によると、これらのハッカーは海外からアクセスし、公開されているウェブサイトから顧客の認証情報を取得することでセキュリティ対策を回避し、Azure OpenAIシステムに侵入しました。顧客へのアクセス権を取得した後、ハッカーはプラットフォームの改ざんを行っただけでなく、…