最近、研究者のナフタリ・ドイッチュ氏による調査が注目を集めています。同氏はネットワークスキャンを通じて、数百ものオープンソースの大規模言語モデル（LLM）構築サーバーと数十ものベクトルデータベースが大量の機密情報を漏洩していることを発見しました。この情報漏洩の原因は、多くの企業が人工知能（AI）を業務フローに統合する際に、関連ツールのセキュリティを軽視していることにあります。
画像出典：AI生成画像、画像ライセンスプロバイダーMidjourney
Flowiseはローコードツールで、ユーザーはこれを使ってカスタマーサービスボットやデータ生成・抽出ツールなど、様々なLLMアプリケーションを作成できます。ほとんどのFlowiseサーバーはパスワードで保護されていますが、パスワードだけではセキュリティを確保できません。
ドイッチュ氏によると、今年初めにも研究者によってFlowiseの認証バイパス脆弱性が発見されており、プログラムAPIエンドポイントの文字を数文字大文字にするだけで簡単にこの脆弱性を悪用できることが分かっています。この脆弱性を利用して、ドイッチュ氏は438台のFlowiseサーバーへの侵入に成功し、GitHubアクセス トークン、OpenAI APIキー、FlowiseパスワードとAPIキーなどの機密データ、さらにはFlowiseアプリケーション関連の設定やプロンプト情報までもが保存されていることを発見しました。
Flowise以外にも、ドイッチュ氏は認証チェックが全くされていない約30個のベクトルデータベースを発見しました。これらのデータベースには、あるエンジニアリングサービス会社のプライベートメール、あるファッション会社のファイル、ある産業機器会社の顧客個人情報や財務データなど、明らかに機密性の高い情報が保存されていました。ベクトルデータベースの漏洩リスクはさらに高く、ハッカーはデータの窃取だけでなく、データの削除や破壊、さらにはマルウェアの埋め込みも可能で、ユーザーがAIツールを使用する際に影響を受ける可能性があります。
これらのリスクを軽減するために、ドイッチュ氏は企業に対し、依存するAIサービスへのアクセスを制限し、これらのサービスに関連するアクティビティを監視・記録し、LLMアプリケーションで転送される機密データを保護し、可能な限り常にソフトウェアをアップデートすることを推奨しています。
同氏は、これらのツールの普及に伴い、多くの開発者が適切な設定を行うための十分なセキュリティ知識を持っていないため、セキュリティが技術開発に遅れを取ることが多いと強調しています。
要点：
1. 🔒 数百ものLLMとベクトルデータベースが機密情報を漏洩、企業のセキュリティ状況は深刻です。
2. 💻 Flowiseツールに認証バイパス脆弱性が存在し、ハッカーによって多数のサーバーが侵害されました。
3. 🛡️ 専門家は企業に対し、AIサービスへのアクセス制御を強化し、定期的な監視とセキュリティ対策のアップデートを行うよう推奨しています。
