Microsoft hat kürzlich auf seiner Ignite-Konferenz ein neues KI-Tool namens Azure AI Speech vorgestellt, das neue Avatare und Stimmen generieren oder das bestehende Aussehen und die Stimme von Nutzern replizieren kann. Die Technologie wird mit menschlichen Bildern trainiert und ermöglicht es Nutzern, Skripte einzugeben, die dann von einem realistisch wirkenden, KI-generierten Avatar vorgelesen werden.
Obwohl Microsoft verschiedene Beschränkungen und Schutzmaßnahmen betont hat, um einen Missbrauch des Tools zu verhindern, hat die Ankündigung dennoch Bedenken hinsichtlich einer möglichen Zunahme von Deepfakes ausgelöst. Kritiker bezeichnen das Tool als "Deepfake-Generator", der missbraucht werden könnte, um das Aussehen und die Stimme von Personen zu kopieren und gefälschte Inhalte zu erstellen.
Microsoft entgegnet, dass das Tool einen eingeschränkten Zugriff bietet und Nutzer die Genehmigung von Microsoft benötigen, um es zu verwenden. Darüber hinaus ist eine Offenlegung bei der Verwendung von KI zur Erstellung von Avataren oder Stimmen erforderlich.