Según un informe del periódico Southern Metropolis Daily, un caso típico recientemente publicado por la Oficina de Seguridad Pública de Internet del Ministerio de Seguridad Pública revela un nuevo y preocupante modelo de creación de rumores en línea. Las autoridades públicas de Guangzhou, Guangdong, desmantelaron con éxito una banda criminal que utilizó herramientas de inteligencia artificial para producir información falsa a gran escala, arrestando a seis sospechosos.
El objetivo de la banda criminal era obtener beneficios del tráfico en las plataformas en línea. Para ello, emplearon un método delictivo cuidadosamente planeado: reclutaron personal a tiempo parcial para registrar cuentas de medios de comunicación social y utilizaron herramientas de IA para reescribir rápidamente artículos populares, publicando masivamente información falsa. Según las estadísticas, la banda publicó más de 500.000 artículos con imágenes y textos para atraer tráfico, causando una grave contaminación de la información en línea.
Nota de la fuente de la imagen: La imagen fue generada por IA, proveedor de servicios de licencias de imágenes Midjourney
La investigación reveló que los delincuentes podían obtener fácilmente una variedad de herramientas de escritura de IA. Estas herramientas ofrecen diversas funciones, no solo para generar rápidamente artículos para cuentas públicas, guiones de video y textos para redes sociales, sino también para continuar artículos, reescribir contenido y generar imágenes. Lo que resulta sorprendente es que algunos servicios de membresía tienen un costo extremadamente bajo, solo 99 yuanes al mes, y el precio anual se reduce a la mitad.
Fang Yu, experto de la Sociedad China de Computación, señala que el costo para los delincuentes de usar herramientas de IA para generar rumores es extremadamente bajo. Con la creciente disponibilidad de algoritmos de modelos grandes y la maduración de la tecnología de IA, el umbral para que los delincuentes obtengan y utilicen estas herramientas está disminuyendo constantemente.
Este caso no solo expone los graves riesgos del posible mal uso de la tecnología de IA, sino que también destaca la urgencia de combatir la creación de rumores en línea y mantener el orden de la información en línea. El exitoso desmantelamiento por parte de las autoridades públicas proporciona un poderoso ejemplo para frenar los delitos relacionados con la IA.
