Recientemente, Microsoft anunció en su conferencia Ignite una nueva herramienta de IA llamada Azure AI Speech, capaz de generar nuevos avatares y voces, o replicar la apariencia y la voz existentes de un usuario. Esta tecnología, entrenada con imágenes humanas, permite a los usuarios introducir un guion que luego es leído por un avatar realista creado por la IA.
A pesar de que Microsoft ha destacado varias limitaciones y medidas de protección para evitar el mal uso de la herramienta, el anuncio ha generado preocupación sobre la posible intensificación de las falsificaciones profundas (deepfakes). Críticos se refieren a la herramienta como un "generador de deepfakes", argumentando que podría utilizarse para replicar rostros y voces de personas, creando contenido falso.
Microsoft respondió afirmando que la herramienta tiene acceso restringido, requiriendo la aprobación de Microsoft para su uso y obligando a la divulgación cuando se utilizan avatares o voces creadas por la IA.
