Recentemente, a Microsoft anunciou, durante sua conferência Ignite, uma nova ferramenta de IA chamada Azure AI Speech, capaz de gerar novos avatares e vozes, ou replicar a aparência e a voz existentes de um usuário. A tecnologia é treinada com imagens humanas e permite que os usuários insiram scripts para serem lidos por um avatar realista criado pela IA.
Apesar da Microsoft ter destacado várias restrições e medidas de proteção para evitar o mau uso da ferramenta, o anúncio gerou preocupações sobre a possível intensificação de deepfakes. Críticos se referiram à ferramenta como um "gerador de deepfakes", alegando que ela pode ser usada para replicar rostos e vozes de indivíduos, criando conteúdo falso.
Em resposta, a Microsoft afirmou que a ferramenta tem acesso restrito, exigindo aprovação da empresa para uso e obrigando a divulgação quando avatares ou vozes forem criados com a IA.
