robrank

对手模拟框架

Fawkes是一款保护隐私的工具，可以对抗人脸识别系统。更多信息请访问 https://sandlab.cs.uchicago.edu/fawkes

自然语言处理中的数据增强

TextAttack是一个Python框架，用于自然语言处理 (NLP) 领域的对抗攻击、数据增强和模型训练。更多信息请访问：https://textattack.readthedocs.io/en/master/

一个Python工具箱，用于创建能够欺骗PyTorch、TensorFlow和JAX中神经网络的对抗样本

大型语言模型的统一评估框架

ChatGPT 越狱、GPT 助手提示泄露、GPT 提示注入、大型语言模型提示安全、超级提示词、提示词攻击、提示词安全、AI 提示词工程、对抗性机器学习

对抗攻击的PyTorch实现[torchattacks]

大型语言模型交互安全工具包

文本对抗攻击与防御必读论文