現在、人工知能、特に大規模言語モデル（LLM）の発展は、サイバーセキュリティ法への懸念を引き起こしています。ハーバード大学の研究者はブラックハットカンファレンスで、米国のコンピューター不正使用および濫用法（CFAA）がAIセキュリティ研究者を効果的に保護しておらず、法的リスクにさらされる可能性があると指摘しました。研究者たちは、既存の法律が「プロンプトインジェクション攻撃」などの行為を曖昧に規定しており、研究者が行為の合法性を判断するのが困難であると指摘しています。2021年の最高裁判決はCFAAの適用を制限しましたが、AIとの相互作用の特殊性により、その規定はより複雑になっています。AIセキュリティ

Metaが公開したPrompt-Guard-86Mモデルは、プロンプトインジェクション攻撃から防御することを目的としており、大規模言語モデルが不適切な入力を処理することを制限することで、システムの安全性を保護します。しかし、このモデル自体にも攻撃されるリスクが露呈しました。Aman Priyanshu氏の研究によると、入力にスペースなどの単純な文字間隔を追加したり、句読点を削除したりすることで、モデルは以前のセキュリティ命令を無視し、攻撃成功率はほぼ100％に達します。この発見は、AIセキュリティの重要性を浮き彫りにしています。Prompt…