最近香港中文大学研究团队发布的研究论文指出,使用摩斯、凯撒等加密密码可以绕过大语言模型的防护机制,向 GPT-4 询问非法内容并得到回复。该研究展示了 GPT-4 的强大功能,以及通过开源工具 CipherChat 评估大语言模型对加密密码的防护能力。