Googleの研究:わずか150元でOpenAI GPT-3.5-turboモデルを攻撃

Googleの最新研究が、OpenAIのGPT-3.5-turboモデルを攻撃する効果的な手法を明らかにしました。そのコストはわずか150元(約3000円)で、2000回未満のAPIクエリで重要な情報を取得できるという驚くべきものです。

この実験は、大規模言語モデルであってもセキュリティの脅威にさらされている可能性があることを示唆しています。OpenAIは既に、同様の攻撃を防止するため、モデルAPIの修正措置を講じています。