En los últimos años, la IA se ha integrado en todos los aspectos de nuestra vida, desde asistentes de voz hasta vehículos autónomos. Sin embargo, la amplia aplicación de la tecnología de IA también presenta algunos riesgos potenciales, entre los que destaca la tecnología de deepfake, que ha generado preocupación social.
La tecnología deepfake utiliza algoritmos para generar contenido falso de alta fidelidad. Aprendiendo de una gran cantidad de datos reales, genera videos o imágenes extremadamente similares a personas o escenas. Si bien esta tecnología demuestra la potencia de la IA, también ha dado lugar a actividades fraudulentas. Por ejemplo, recientemente se produjo un incidente en el que se utilizó la imagen y la voz del doctor Zhang Wenhong para realizar una transmisión en vivo con fines comerciales. En el video falso, la imagen sintética promocionaba un producto, lo que resultó en la venta de más de 1200 artículos. Este hecho provocó una fuerte indignación por parte del doctor Zhang Wenhong y del público en general.
Nota de la fuente: Imagen generada por IA, servicio de licencias de imágenes Midjourney
Tang Jiansheng, subsecretario del Comité de Protección de los Derechos del Consumidor de Shanghai, afirmó que este tipo de acciones que utilizan la imagen de personas famosas mediante tecnología de IA constituyen una grave violación de los derechos del consumidor. Casos similares incluyen la creación de videos satíricos utilizando la imagen de Lei Jun durante las vacaciones nacionales, y el uso de la voz de Andy Lau para atraer tráfico. Las empresas y celebridades involucradas han advertido al público para que esté alerta.
Los expertos señalan que la tecnología de IA actual puede clonar fácilmente la cara y la voz de una persona, y que la fidelidad del contenido generado es extremadamente alta. Sin embargo, este tipo de tecnología no está exenta de fallas. Observando cuidadosamente la fusión entre la cara y el fondo, o la coincidencia entre la voz y el movimiento de los labios, todavía se pueden detectar anomalías. Además, las transmisiones en vivo en tiempo real son difíciles de realizar con esta tecnología.
Los expertos legales han declarado claramente que el uso no autorizado de la imagen o la voz de otra persona es ilegal. Zhu Wei, profesor asociado de la Universidad de Derecho de China, enfatizó que, según el Código Civil, esta acción infringe los derechos de la personalidad; y según la Ley de Seguridad Cibernética, el contenido relacionado se considera información ilegal, y los publicadores incluso podrían enfrentar responsabilidades penales.
Para los consumidores, si compran un producto debido a una promoción fraudulenta de una celebridad mediante IA, pueden solicitar al vendedor "la devolución del triple del importe" según la Ley de Protección de los Derechos del Consumidor, con una compensación mínima de 500 yuanes. Al mismo tiempo, las plataformas de videos cortos también deben asumir su responsabilidad de supervisión, reforzando la revisión y el castigo del contenido relacionado para evitar la propagación a gran escala de información ilegal.
El auge de la tecnología deepfake recuerda al público que, al disfrutar de la comodidad de la IA, también deben estar atentos a sus riesgos potenciales.