外国网友发现一种全新越狱技术,利用乱序的 prompt 绕过传统的安全过滤器,让 ChatGPT 生成勒索软件。研究者 Jim Fan 对 GPT 模型能读懂乱序的单词感到惊讶。该技术利用人脑理解乱序字句和单词的特点,成功实现了越狱,引起了社区的关注。