Imagine: con solo una foto, ver a esa persona hablar, moverse e incluso actuar en cuestión de segundos. Esa es la magia de OmniHuman-1, lanzado por ByteDance. Este modelo de inteligencia artificial, que recientemente se ha vuelto viral en internet, puede generar videos altamente realistas que dan vida a imágenes estáticas. Al combinarlo con fragmentos de audio, logra sincronización labial, movimientos corporales completos y expresiones faciales ricas. A diferencia de las técnicas tradicionales de deepfake, OmniHuman-1 no se limita a reemplazar rostros, sino que puede animar una figura completa.

Con el rápido desarrollo de la inteligencia artificial, el contenido de deepfakes ha generado una creciente preocupación social. Para abordar este problema emergente, California ha promulgado a principios de año una serie de nuevas leyes y regulaciones destinadas a fortalecer la supervisión del contenido de deepfakes generado por inteligencia artificial. Estas leyes afectarán a las plataformas de redes sociales, a los creadores de contenido y a las industrias relacionadas, marcando una nueva etapa en la regulación de las aplicaciones de la tecnología de IA. Nota sobre la imagen: La imagen fue generada por IA, el proveedor de servicios de licencia de imágenes es Midjourney. Una ley importante amplía la lucha contra...

En los últimos años, desde los asistentes de voz hasta los vehículos autónomos, la IA se ha integrado en todos los aspectos de la vida. Sin embargo, la amplia aplicación de la tecnología de IA también ha traído consigo algunos riesgos potenciales, entre los que destaca la tecnología deepfake, que ha suscitado la preocupación social. La tecnología deepfake utiliza algoritmos para generar contenido falso de alta fidelidad, aprendiendo de una gran cantidad de datos reales para generar vídeos o imágenes muy similares a personas o escenas. Aunque esta tecnología muestra la potencia de la IA, también ha dado lugar a actividades fraudulentas. Por ejemplo, recientemente se han producido casos de transmisión en vivo de productos mediante el uso fraudulento de la imagen y la voz del Dr. Zhang Wenhong. Falsificación

Recientemente, en la 12ª Conferencia de Finanzas y Tecnología Digital, parte de las actividades del Foro de Zhongguancun, la solución de detección Deepfake de Ant Group fue seleccionada para el premio "Innovación y aplicación de tecnología Fintech". Ant Group, a través de su laboratorio Tianji, ha creado el primer conjunto de datos Deepfake a gran escala, de alta calidad y multimodal del sector. Este conjunto de datos contiene más de un millón de contenidos multimedia, simulando fielmente los ataques Deepfake en entornos de control de riesgos financieros reales, convirtiéndose en un referente para evaluar las soluciones de detección Deepfake actuales en el sector financiero.

Recientemente, un video circuló en internet causando gran controversia. El video muestra una cuenta que imita a Zhang Wenhong promocionando y vendiendo barritas proteicas en una transmisión en vivo. Muchos usuarios se cuestionaron si Zhang Wenhong realmente estaba involucrado en la venta. Más preocupante aún, algunos espectadores mayores creyeron el video, llegando incluso a realizar pedidos y compartir la información en grupos de redes sociales. Tras la investigación de un periodista, se confirmó que el Zhang Wenhong del video era un deepfake creado con IA. Al respecto, Zhang Wenhong respondió que existen varias cuentas fraudulentas que utilizan su imagen para vender productos.

Hoy en día, los Deepfake están por todas partes. Con la proliferación de la IA generativa, el contenido falso en línea está creciendo exponencialmente. Según la plataforma de verificación de identidad Sumsub, entre 2023 y 2024, la cantidad de Deepfakes en todo el mundo aumentó cuatro veces. En 2024, los Deepfakes representaron el 7% de todas las actividades fraudulentas, desde la suplantación de identidad y el robo de cuentas hasta ataques de ingeniería social complejos, todos ellos con la presencia de Deepfakes. Para combatir eficazmente los Deepfakes, Meta...

Con el aumento de la tecnología deepfake, la cantidad de contenido falso en línea se ha disparado. Según la plataforma de verificación de identidad Sumsub, la cantidad de deepfakes se cuadruplicó entre 2023 y 2024, representando el 7% de todos los fraudes en 2024. Esto incluye diversas formas, como suplantación de identidad, toma de cuentas y ataques de ingeniería social complejos. Para abordar este desafío, Meta ha lanzado recientemente una nueva herramienta de marca de agua, Meta Video Seal, diseñada para identificar contenido generado por IA

Con la comercialización de la inteligencia artificial generativa, la cantidad de contenido falso en línea ha aumentado drásticamente. Según datos de la plataforma de verificación de identidad Sumsub, la cantidad de deepfakes en todo el mundo aumentó cuatro veces entre 2023 y 2024. En 2024, los deepfakes representaron el 7% de todos los fraudes, involucrando diversas formas, desde suplantación de identidad y usurpación de cuentas hasta complejas actividades de ingeniería social. Para abordar este problema, Meta ha lanzado una nueva herramienta, Meta Video Seal, destinada a agregar una marca de agua indetectable a los videos generados por IA

Recientemente, el profesor de comunicación de la Universidad de Stanford, Jeff Hancock, ha atraído una atención significativa por ser acusado de usar inteligencia artificial para falsificar testimonios en un caso que involucra un video deepfake político. El caso fue presentado por el fiscal general de Minnesota, Keith Ellison, en relación con una ley recientemente aprobada en Minnesota que prohíbe los videos deepfake políticos, considerada una posible amenaza a la libertad de expresión. Nota sobre la imagen: Imagen generada por IA, proveída por Midjourney.

Una demanda federal en curso sobre una ley de Minnesota que prohíbe el uso de la tecnología deepfake para influir en las elecciones ha generado una nueva controversia. Los abogados de la parte demandante alegan en documentos legales recientes que las declaraciones juradas que apoyan la ley podrían contener texto generado por inteligencia artificial. Nota de la imagen: Imagen generada por IA, la imagen fue generada por el servicio Midjourney basándose en un informe del Minnesota Reformer. El Fiscal General del estado, Keith Ellison, solicitó la ayuda del Laboratorio de Redes Sociales de Stanford.

Tras las elecciones presidenciales estadounidenses de 2024, la desinformación se propagó en internet a una velocidad asombrosa, afectando gravemente la percepción de los estadounidenses sobre los candidatos y temas como la salud pública, el cambio climático y la inmigración. El desarrollo de la inteligencia artificial generativa, junto con su capacidad para generar deepfakes y su propensión a 'alucinar' hechos, podría exacerbar aún más este problema. Nota de la imagen: Imagen generada por IA, servicio de licencias de imágenes MidjourneyPara abordar este desafío, nace la startup noruega Factiverse. La compañía participó en 10

Singapur ha publicado recientemente una serie de importantes anuncios sobre ciberseguridad, en particular una guía de seguridad para sistemas de inteligencia artificial (IA) y una legislación que prohíbe el uso de la tecnología deepfake en la publicidad electoral. Estas medidas tienen como objetivo ayudar a las organizaciones a mitigar los riesgos potenciales durante el desarrollo e implementación de la IA, garantizando la seguridad de la tecnología. Nota sobre la imagen: Imagen generada por IA, servicio de licencias de imágenes Midjourney. La guía de seguridad para sistemas de IA, publicada por la Agencia de Ciberseguridad de Singapur (CSA), destaca el concepto de "seguridad por diseño", con el objetivo de...

Zoom se prepara para ofrecer a sus usuarios una nueva función asombrosa, aunque es posible que tengamos que esperar hasta el próximo año para verla. En su conferencia anual para desarrolladores, el gigante de las videoconferencias anunció que lanzará una función que permitirá convertir los videos de los usuarios en avatares digitales realistas impulsados por IA. Este avatar digital no solo incluye la cabeza, sino también los brazos y hombros superiores, lo que lo convierte en un verdadero "avatar digital". Los usuarios solo necesitan ingresar el contenido que quieren que diga el avatar digital, y Zoom generará audio sincronizado con los labios del avatar. Suena mágico, ¿verdad? El director de producto de Zoom...

La tecnología de IA es una herramienta de doble filo, capaz de generar beneficios y riesgos. Para gestionar mejor estos riesgos, el gobernador de California, Gavin Newsom, ha firmado recientemente nueve proyectos de ley que regulan específicamente el contenido generado por IA, especialmente los deepfakes. Nota de la imagen: Imagen generada por IA, servicio de imágenes Midjourney. Entre estas leyes, la SB1047 destaca por exigir a los desarrolladores de IA que adopten medidas de seguridad para reducir...

En una reciente ceremonia de firma, el gobernador de California, Gavin Newsom, anunció una serie de nuevas leyes dirigidas a la industria de la inteligencia artificial (IA), que son relativamente estrictas a nivel nacional. Estas nuevas regulaciones incluyen cinco puntos, tres de los cuales se centran específicamente en las tecnologías de deepfakes de IA que podrían influir en las elecciones, mientras que las otras dos leyes abordan la clonación de voces e imágenes de actores de Hollywood. Nota sobre la imagen: Imagen generada por IA, con licencia de Midjourney. La nueva ley AB2655 exige a las grandes plataformas online...

Varias grandes empresas de inteligencia artificial de Estados Unidos han reiterado recientemente su firme compromiso a la Casa Blanca de evitar que sus productos de IA se utilicen para generar deepfakes pornográficos no consentidos y material de abuso sexual infantil. Seis empresas, incluyendo Adobe, Anthropic, Cohere, Microsoft, OpenAI y el repositorio de datos web de código abierto Common Crawl, han firmado este compromiso no vinculante para garantizar que sus productos no se utilicen indebidamente para crear imágenes dañinas de violencia sexual.

Los deepfakes y los medios sintéticos son cada vez más comunes gracias al auge de la inteligencia artificial generativa (IA generativa). Para abordar este desafío, diversas organizaciones están trabajando en el perfeccionamiento de las técnicas de marca de agua digital para rastrear el origen del contenido. Si bien ninguna organización ha tenido un éxito total hasta la fecha, la Coalición para el Origen y la Autenticidad del Contenido (C2PA) está fortaleciendo sus filas. C2PA anunció que Amazon se ha unido como nuevo miembro de su consejo directivo. C2PA es un estándar tecnológico abierto bajo el paraguas de la Fundación Linux.

Con el avance de la inteligencia artificial, la falsificación de imágenes y vídeos es cada vez más fácil, y el fenómeno de los deepfakes está aumentando. La identificación de este contenido falso se ha convertido en un problema urgente. Recientemente, un equipo de investigación de la Universidad de Binghamton ha profundizado en este tema, utilizando el análisis de frecuencia para revelar las características de las imágenes generadas por IA, ayudando así a identificar la información falsa. Nota sobre la imagen: Imagen generada por IA, proveída por el servicio de imágenes Midjourney. Esta investigación fue realizada por el departamento de Ingeniería Eléctrica e Informática de...

Recientemente, el abuso de la tecnología Deepfake ha generado una gran preocupación en Corea del Sur, con cerca de 220.000 personas difundiendo imágenes pornográficas generadas por IA a través de Telegram, causando un grave daño a los derechos de las mujeres. Este evento, que guarda relación con el 'caso N', pone de manifiesto los peligros sociales del mal uso de la IA. La ingeniera china Zhang Xinyi y su equipo, en respuesta a este problema, han anunciado que lanzarán su modelo Deepfake de código abierto para la competición de innovación de IA de la Conferencia de Bund, con el objetivo de proporcionar herramientas tecnológicas para combatir el abuso de la tecnología Deepfake. Esta acción ha generado un gran impacto en las redes sociales.

Singapur ha presentado recientemente un nuevo proyecto de ley que busca prohibir el uso de deepfakes durante las elecciones, con el objetivo de garantizar la veracidad de la información y la equidad electoral. Con el auge de la inteligencia artificial generativa, el riesgo de contenido deepfake ha aumentado. Este proyecto de ley regula el contenido falso creado con IA y sin IA, incluyendo videos, audios e imágenes. La regulación clave prohíbe la publicación de anuncios online que muestren falsamente las acciones o palabras de los candidatos durante el periodo electoral. Quienes infrinjan la ley enfrentarán multas o prisión. El proyecto de ley también permite emitir órdenes de rectificación a individuos y plataformas de redes sociales que publiquen contenido falso.