zh
红薯智语
每月不到10元,就可以无限制地访问最好的AIbase。立即成为会员
首页
AI资讯
AI日报
变现指南
AI教程
AI工具导航
AI产品库
zh
红薯智语
搜索全球AI产品动态
搜索全球AI信息,发现AI新机遇
新闻资讯
产品应用
变现案例
AI教程
类型 :
新闻资讯
产品应用
变现案例
AI教程
2024-07-25 13:56:46
.
AIbase
.
10.6k
颠覆认知!AI自训练9次崩溃 牛津剑桥发现AI潜藏致命弱点
斯坦福大学和加州大学伯克利分校的研究人员进行了一项实验,探索让AI图像生成模型使用自己生成的图像进行再训练的后果。实验使用了Stable Diffusion(SD)模型,并从FFHQ人脸数据集中选取了高质量人脸图像进行自动生成。结果显示,AI模型在经过再训练后,产生了高度扭曲的图像,这种扭曲不仅源自用于再训练的文本提示,即使之后仅使用真实图像进行再训练,模型也难以完全恢复。实验发现,生成图像的质量急剧下降,即使再训练数据集中自生成图像的比例低至3%,模型崩溃的现象依然存在。研究揭示了AI系统对数据“污染”的高度敏感性,强调了AI生成内容处理和数据集管理的潜在风险与挑战。