インディアナ州パデュー大学の研究者らは、大規模言語モデルから有害なコンテンツを生成させる新たな手法を開発しました。彼らは、コンプライアンス回答の中に潜む潜在的な危険性を発見しました。確率データとソフトラベルを用いてモデルに有害なコンテンツの生成を誘導したところ、成功率は98％に達しました。研究者らは、AIコミュニティに対し、言語モデルのオープンソース化には慎重を期すべきであり、有害なコンテンツの排除がより良い解決策であると警告しています。