一段乱码,竟让 ChatGPT 越狱!乱序 prompt 让 LLM 火速生成勒索软件,Jim Fan 惊了
新智元
17
外国网友发现一种全新越狱技术,利用乱序的 prompt 绕过传统的安全过滤器,让 ChatGPT 生成勒索软件。研究者 Jim Fan 对 GPT 模型能读懂乱序的单词感到惊讶。该技术利用人脑理解乱序字句和单词的特点,成功实现了越狱,引起了社区的关注。
© 版权所有 AIbase基地 2024, 点击查看来源出处 - https://www.aibase.com/zh/news/643