微软推出仿真人脸和声音AI工具,引发深度伪造担忧
站长之家
14
最近,微软在其Ignite大会上宣布了一个新的AI工具,名为Azure AI Speech,可以生成新的头像和声音,或者复制用户的现有外观和语音。这项技术使用人类图像进行训练,并允许用户输入脚本,由AI创建的逼真头像来朗读。尽管微软强调了多种限制和保护措施,以防止该工具被滥用,但这一宣布仍引发了对深度伪造可能加剧的担忧。批评者称这一工具为“深度伪造制造器”,可能会被用来复制个人的面容和声音,制造虚假内容。微软回应称,该工具为限制访问工具,用户在使用时需要微软的批准,并在使用AI制作头像或声音时进行披露。
© 版权所有 AIbase基地 2024, 点击查看来源出处 - https://www.aibase.com/zh/news/3347