【AIデイリー】へようこそ！ここは、毎日人工知能の世界を探求するためのガイドです。毎日、開発者に焦点を当て、技術トレンドを洞察し、革新的なAI製品アプリケーションを理解するのに役立つ、AI分野のホットなコンテンツをお届けします。
Gartnerの最近の分析によると、2027年までに、AI関連のデータ漏洩の40％以上が、生成AI（GenAI）の誤用を原因とするものになると予測されています。GenAI技術の急速な普及に伴い、企業や組織はデータガバナンスとセキュリティ対策の策定において、大きな課題に直面しています。特にデータローカリゼーションの文脈においては、これらの技術が高集中の計算能力を必要とするため、この問題はより顕著になります。GartnerのバイスプレジデントアナリストであるJoerg Fritsch氏...
人工知能技術の急速な発展に伴い、多くの企業が独自の「AIエージェント」システムをリリースしています。これらのエージェントは環境と自律的にインタラクトし、人間の介入なしにタスクを実行できます。MicrosoftやAnthropicなどの企業は既に独自のAIエージェントをリリースしていますが、業界リーダーであるOpenAIは未だに独自のバージョンをリリースしていません。その背景にある理由は考えさせられます。The Informationの報道によると、OpenAIのリリース遅延は「プロンプトインジェクション」攻撃に関係しているとのことです。
セキュリティ企業PromptArmorは、Slack AIの重大なセキュリティ脆弱性を明らかにしました。悪意のあるプロンプト注入攻撃を受けやすいことを指摘しています。Salesforceのチームコミュニケーションサービスに追加機能として提供されているSlack AIは、会話の要約、質問への回答、アクセス頻度の低いチャンネル情報の集約などの生成タスクに使用されます。しかし、PromptArmorは、Slack AIのセキュリティは謳われているレベルに達していないと指摘しています。根本的な脆弱性は、Slackが公開チャンネルとプライベートチャンネルのデータ（ユーザーが…）をクエリできる点にあります。
開発者のEvan Zhou氏が、macOS 15.1 Beta 1において、Apple Intelligenceと呼ばれるアップルの新しいAIシステムを「プロンプトインジェクション」攻撃によって制御することに成功しました。この攻撃により、指示を回避し、任意の応答を促すことが可能です。当初の目標はテキスト品質の変更でしたが、Redditユーザーが共有したプロンプト情報を利用することで、Zhou氏はシステムプロンプトを上書きする攻撃を構築し、AIに元の指示を無視させて新しいテキストに応答させました。この発見は広く注目を集めており、Apple Intelligenceの…
現在、人工知能、特に大規模言語モデル（LLM）の発展は、サイバーセキュリティ法への懸念を引き起こしています。ハーバード大学の研究者はブラックハットカンファレンスで、米国のコンピューター不正使用および濫用法（CFAA）がAIセキュリティ研究者を効果的に保護しておらず、法的リスクにさらされる可能性があると指摘しました。研究者たちは、既存の法律が「プロンプトインジェクション攻撃」などの行為を曖昧に規定しており、研究者が行為の合法性を判断するのが困難であると指摘しています。2021年の最高裁判決はCFAAの適用を制限しましたが、AIとの相互作用の特殊性により、その規定はより複雑になっています。AIセキュリティ
Metaが公開したPrompt-Guard-86Mモデルは、プロンプトインジェクション攻撃から防御することを目的としており、大規模言語モデルが不適切な入力を処理することを制限することで、システムの安全性を保護します。しかし、このモデル自体にも攻撃されるリスクが露呈しました。Aman Priyanshu氏の研究によると、入力にスペースなどの単純な文字間隔を追加したり、句読点を削除したりすることで、モデルは以前のセキュリティ命令を無視し、攻撃成功率はほぼ100％に達します。この発見は、AIセキュリティの重要性を浮き彫りにしています。Prompt…
OpenAIシステムがデータ漏洩事件に見舞われましたが、ChatGPTの会話内容が取得されたかどうかを心配する必要はありません。今回のハッキング自体は表面的だったようですが、AI企業が急速にハッカーにとって最も魅力的な標的の1つになっていることを示しています。ニューヨーク・タイムズ紙によると、元OpenAI従業員のレオポルド・アッシェンブレンナー氏がポッドキャストでこのハッキング事件に言及。彼はこれを「重大なセキュリティインシデント」と呼んでいますが、匿名の情報筋は…
GoogleはBardの大幅な変更を計画しており、OpenAIのGPT-4に対抗するためにGeminiに改名する予定です。Geminiは音声チャットと新しいUltra1.0モデルを初めて導入し、ChatGPT Plusと同様に高度な機能と有料プランを提供します。Googleは人工知能製品を迅速にアップグレードしており、Geminiは言語モデル分野における大きな進歩を表す可能性があります。OpenAIの取締役会は競合他社の参加を呼びかけ、Google Geminiの幹部を引き抜いており、業界の注目を集めています。Google Bard
Bardが最新アップデートで、DeepMindのImagen2画像生成モデルを搭載。強力な画像生成能力を備えています。Imagen2はGoogle DeepMindの拡散モデルに基づき、高品質な画像記述データでトレーニングされており、より詳細で意味的に正確な画像を提供します。機能はBard、ImageFX、SGE、Vertex AIに拡張され、検索、クリエイティブデザイン、会議など、複数のシーンに対応。生成画像はGemini Proモデルによってサポートされ、Synを使用…
Google Bardは本日、世界規模でのアップデートを発表しました。Gemini Pro大規模言語モデルの機能を40言語に拡張し、画像生成機能を追加しました。今回のアップデートはBard発展における重要な一歩であり、Bardをより使いやすく、競争力を高めます。Gemini Proは現在Googleが持つ最先端のLLMです。BardはChabots Arenaランキングで2位にランクインしています。Bardはまた…