3月13日、AI対話プラットフォーム Chat Playground が大幅アップデートされ、正式名称を Prompts Playground に変更しました。公式ツイートによると、今回のアップデートは名称変更だけでなく、プラットフォーム全体を全面的に再設計し、ユーザーエクスペリエンスの向上、プロンプト（Prompts）のテスト、比較、反復処理をより効率的に行えるようにすることを目的としています。新バージョンの Prompts Playground には、Web検索*などの多くの便利なツールが導入されています。

生成系AI（GenAI）の急速な台頭とともに、ニューヨークに拠点を置くスタートアップ企業PromptLayerは、新たな分野であるプロンプトエンジニアリングにいち早く参入しました。プロンプトエンジニアリングとは、AIチャットボットに的確な指示を与え、有用なアウトプットを得るための技術です。PromptLayerの創設者であるジャレッド・ゾネライク(Jared Zoneraich)とジョナサン・ペドイーム(Jonathan Pedoeem)は当初、自身の…

先日、Microsoft AI研究チームはオープンソースツールPromptWizardを発表しました。これはフィードバック駆動型のAIフレームワークであり、大規模言語モデル（LLM）のプロンプト設計を効率的に最適化することを目的としています。プロンプトの質はモデル出力の優劣に非常に重要ですが、高品質なプロンプトの作成には多くの時間と人的資源を必要とすることが多く、特に複雑なタスクや特定の分野のタスクでは顕著です。従来のプロンプト最適化方法は、人間の経験に大きく依存しており、時間のかかるだけでなく、拡張性にも乏しいという問題がありました。既存の最適化技術は…

生成AIの普及に伴い、プロンプト取引市場は急速に拡大しています。しかし、PromptBaseを代表とする現状の取引プラットフォームは、依然として売り手主導の価格設定であり、客観的な価格評価基準を欠いています。この課題に対し、復旦大学マルチメディア＆インテリジェントセキュリティチームは、将来的な買い手市場により適応することを目指した、革新的なプロンプト取引モデルを発表しました。この新しい取引モデルは、大きく分けてプロンプトカテゴリの選択と価格設定戦略策定の2つの段階から構成されます。第一段階では、プラットフォームは貪欲探索に基づくマルチアームバンディットアルゴリズムを使用し、

セキュリティ企業PromptArmorは、Slack AIの重大なセキュリティ脆弱性を明らかにしました。悪意のあるプロンプト注入攻撃を受けやすいことを指摘しています。Salesforceのチームコミュニケーションサービスに追加機能として提供されているSlack AIは、会話の要約、質問への回答、アクセス頻度の低いチャンネル情報の集約などの生成タスクに使用されます。しかし、PromptArmorは、Slack AIのセキュリティは謳われているレベルに達していないと指摘しています。根本的な脆弱性は、Slackが公開チャンネルとプライベートチャンネルのデータ（ユーザーが…）をクエリできる点にあります。

Metaが公開したPrompt-Guard-86Mモデルは、プロンプトインジェクション攻撃から防御することを目的としており、大規模言語モデルが不適切な入力を処理することを制限することで、システムの安全性を保護します。しかし、このモデル自体にも攻撃されるリスクが露呈しました。Aman Priyanshu氏の研究によると、入力にスペースなどの単純な文字間隔を追加したり、句読点を削除したりすることで、モデルは以前のセキュリティ命令を無視し、攻撃成功率はほぼ100％に達します。この発見は、AIセキュリティの重要性を浮き彫りにしています。Prompt…