AIセキュリティ企業Adversa AIが衝撃的な報告を発表しました。イーロン・マスク率いるxAIが最近リリースしたGrok 3モデルに重大なセキュリティ上の脆弱性が存在するというものです。Adversaの研究チームは、この最新のAIモデルが「簡単な脱獄攻撃」を受けやすいことを発見しました。これにより、悪意のある者が「子供を誘拐する方法」「死体の処理方法」「DMTの抽出方法」「爆弾の製造方法」など、機密性の高い情報を入手できる可能性があります。さらに悪いことに、Adversa

最近、セキュリティ研究者らが、著名な機械学習プラットフォームHuggingFaceに2つの悪意のある機械学習モデルが密かにアップロードされているのを発見しました。これらのモデルは、「破損した」pickleファイルを使用することで、セキュリティ検出を巧みに回避しており、懸念されています。ReversingLabsの研究者であるKarlo Zanki氏は、これらのPyTorch形式のアーカイブから抽出されたpickleファイルの先頭が、～を示唆していると指摘しています。

先日、自身を「emirking」と名乗るロシア人ハッカーが、悪名高いハッカーマーケットであるBreachForumsに、2000万件のOpenAI ChatGPTアカウントのログイン情報だと主張する情報を掲載し、販売を始めた。この情報は、AIスタートアップ企業のOpenAIとサイバーセキュリティ企業のMalwarebytes Labsが金曜日に共同で発表し、サイバーセキュリティの脅威の深刻さを示している。画像の出典:AIによって生成された画像、画像ライセンスプロバイダー

グーグルは最近、複数の国家支援を受けた高度な持続的脅威（APT）グループが、作業効率の向上と攻撃能力の強化のために、同社のAIアシスタントGeminiを利用していると警告しました。これらのハッカーは、Geminiを単に新しいサイバー攻撃に使用しているわけではなく、このツールを使用して潜在的な攻撃インフラストラクチャを調査し、標的偵察を行い、準備時間を短縮しています。グーグル脅威インテリジェンスグループ（GTIG）は、20カ国以上のAPTグループが積極的にGeminiを試行していることを発見しました。

最近、マイクロソフトはバージニア州東地区地方裁判所で、Azure OpenAIプラットフォームに不正アクセスし、有害なコンテンツを大量に生成したとして、複数のハッカーを訴追しました。この事件は、人工知能分野の安全性とリスクに対する懸念を改めて浮き彫りにしています。訴状によると、これらのハッカーは海外からアクセスし、公開されているウェブサイトから顧客の認証情報を取得することでセキュリティ対策を回避し、Azure OpenAIシステムに侵入しました。顧客へのアクセス権を取得した後、ハッカーはプラットフォームの改ざんを行っただけでなく、…

Anthropic社がClaudeのデバイス制御機能であるComputer Use機能をリリースしてまだ2ヶ月も経たないうちに、セキュリティ研究者がその潜在的なセキュリティ脆弱性を発見しました。ネットセキュリティ専門家Johann Rehnberger氏が最新で公開した研究結果は衝撃的です。単純なプロンプトインジェクションによって、AIはマルウェアのダウンロードと実行を誘導される可能性があることが明らかになったのです。Rehnberger氏は、この脆弱性を利用する手法をZombAIsと名付けました。デモでは、彼はClaudeを…

ホワイトハットハッカーのJohann Rehberger氏が最近、衝撃的なセキュリティ脆弱性を明らかにしました。ChatGPTがハッカーによってスパイウェアとして悪用され、ユーザーデータが継続的に盗まれる可能性があることを発見しました。Rehberger氏は、この攻撃手法をSpAIwareと名付け、主にmacOS版ChatGPTアプリケーションの新しい機能である長期メモリを対象としています。この脆弱性は、最近導入されたChatGPTの永続メモリ機能を利用しています。巧妙に設計されたプロンプトインジェクションによって、ハッカーはChatGPTの

最近、セキュリティ研究者のヨハン・レーバーガー（Johann Rehberger）氏がChatGPTの脆弱性を発見しました。この脆弱性により、ハッカーはユーザーの長期記憶に偽の情報や悪意のある指示を埋め込む可能性があります。同氏はOpenAIにこの問題を報告しましたが、同社はこれを安全上の問題とは見なさず、迅速に調査を打ち切ったため、十分な対応がなされませんでした。この状況を受け、レーバーガー氏は諦めず、概念実証の攻撃例を開発しました。

ハッカー集団NullBulgeは、ディズニーの社内コミュニケーションプラットフォームへの侵入に成功し、1TBを超えるデータを窃取、オンラインで漏洩させたことを主張しています。これは、ディズニーのアーティストに対する「反芸術的」な姿勢への抗議です。行動の目的は、アーティストの権利と公正な報酬の保護、およびディズニーによるAI処理契約や類似の論争への対応です。漏洩した情報には、ソフトウェア開発、採用、ウェブサイトの保守、従業員計画に関する内部の会話が含まれ、少なくとも2019年まで遡ります。NullBulgeは、公開されたドキュメントには、発売予定のゲームや既に発表されている続編の詳細が含まれていると明らかにしています。

人工知能駆動のチャットボットが、認定倫理ハッカー試験に合格できることが判明したが、研究者らはネットワークセキュリティの保護にそれらだけに依存すべきではないと警告している。この研究は、ミズーリ大学のPrasad Calyam氏とインドのアマルタ大学の共同研究者らによって行われ、OpenAIのChatGPTとGoogleのBard（現Gemini）という2つの主要な生成AIツールをテストした。

OpenAIシステムがデータ漏洩事件に見舞われましたが、ChatGPTの会話内容が取得されたかどうかを心配する必要はありません。今回のハッキング自体は表面的だったようですが、AI企業が急速にハッカーにとって最も魅力的な標的の1つになっていることを示しています。ニューヨーク・タイムズ紙によると、元OpenAI従業員のレオポルド・アッシェンブレンナー氏がポッドキャストでこのハッキング事件に言及。彼はこれを「重大なセキュリティインシデント」と呼んでいますが、匿名の情報筋は…

OpenAI ChatGPTがハッカーに侵入され、同社は「ニャーニャーGPT」という独創的な対抗策を実施。ハッカーチームは異常を発見し、「猫語」の罠に嵌まる。OpenAIの従業員はハッカーコミュニティの会話を密かに監視。記事では大規模AIモデルのセキュリティ上の課題を考察。OpenAIのエンジニアは、GPU不足が製品リリース速度に影響を与えていると明かす。

今週末のDEF CONで、数千人のハッカーがレッドチーム演習に参加し、世界トップレベルの生成AIモデルを攻撃します。レッドチーム演習の目的は、AIモデルの弱点を見抜き、埋め込まれた危害に関するフィードバックを提供することです。このイベントは、Humane Intelligence、SeedAI、AI Village組織との協力による、初の公開生成AIレッドチーム活動です。