TikTok ha publicado recientemente un anuncio en el que declara que tomará medidas enérgicas contra el uso de la tecnología de IA para crear contenido falso que engañe a las personas mayores para que interactúen. TikTok anima a los creadores a utilizar la tecnología de IA para ayudar en la creación de contenido, pero todo el contenido debe cumplir con las normas de la plataforma. Está estrictamente prohibido el uso de la tecnología de IA generativa para publicar contenido que contradiga los conocimientos científicos, que sea falso o que difunda rumores.
El anuncio señala que algunas cuentas utilizan indebidamente la tecnología de IA para generar imágenes virtuales, como monjes budistas, militares y mujeres de IA, y utilizan frases específicas para inducir a las personas mayores a dar "me gusta", seguir, comentar e incluso generar ganancias. Estas acciones violan las normas de la plataforma, y TikTok ya ha impuesto sanciones severas a las cuentas implicadas, incluyendo la eliminación de vídeos que infringen las normas, la cancelación de los derechos de publicación y de monetización, y la suspensión de las cuentas.
TikTok enumera algunos ejemplos de conductas infractoras típicas, entre otras:
1. Generar imágenes de monjes budistas y utilizar contenido supersticioso para engañar a las personas mayores y lograr su interacción.
2. Generar imágenes de militares y aprovechar la nostalgia de las personas mayores por sus hijos para lograr su interacción.
3. Generar imágenes de mujeres de IA y utilizar frases emotivas para inducir a las personas mayores a interactuar.
TikTok destaca que este tipo de contenido infringe gravemente las normas de la plataforma, y que la plataforma utilizará medios técnicos para realizar una identificación y un tratamiento sistemáticos a largo plazo. Además, TikTok ha publicado las "Normas de la plataforma de TikTok sobre el contenido generado por inteligencia artificial y propuesta para la industria", que exigen que los publicadores marquen claramente el contenido generado por IA, que los avatares virtuales se registren en la plataforma, que los usuarios de la tecnología se identifiquen y que se prohíba la publicación de contenido infractor.
TikTok aboga por la creación de un ambiente comunitario sano y honesto, y se compromete a seguir combatiendo el uso de la IA para engañar a las personas mayores y lograr su interacción, a proteger los derechos de las personas mayores y a crear un entorno online seguro y fiable. En caso de actividades sospechosas de ser ilegales o delictivas, TikTok cooperará activamente con los organismos competentes para su represión.
