Patronus AIは、SimpleSafetyTestsテストスイートを発表し、ChatGPTなどのAIシステムに重大なセキュリティの脆弱性があることを発見しました。このテストでは、11種類のLLMにおける深刻な弱点が見つかり、安全なプロンプトが安全でない応答を減らすことができることが強調されました。その結果、現実世界のアプリケーションに適用する前に、LLMには厳格でカスタマイズされたセキュリティソリューションが必要であることが示されました。