微软推出仿真人脸和声音AI工具，引发深度伪造担忧

最近，微软在其Ignite大会上宣布了一个新的AI工具，名为Azure AI Speech，可以生成新的头像和声音，或者复制用户的现有外观和语音。这项技术使用人类图像进行训练，并允许用户输入脚本，由AI创建的逼真头像来朗读。尽管微软强调了多种限制和保护措施，以防止该工具被滥用，但这一宣布仍引发了对深度伪造可能加剧的担忧。批评者称这一工具为“深度伪造制造器”，可能会被用来复制个人的面容和声音，制造虚假内容。微软回应称，该工具为限制访问工具，用户在使用时需要微软的批准，并在使用AI制作头像或声音时进行披露。