El popular programa de noticias alemán, Tagesschau, ha sido víctima de un ataque de desinformación. Un audio falso que trataba sobre la guerra en Ucrania y la pandemia del coronavirus circuló en redes sociales. El editor jefe aclaró que el archivo era una falsificación.
El incidente pone de manifiesto la urgente necesidad de que las plataformas de redes sociales y la industria de las noticias trabajen juntas para mantener la veracidad de la información.
Con la comercialización de la inteligencia artificial generativa, la cantidad de contenido falso en línea ha aumentado drásticamente. Según datos de la plataforma de verificación de identidad Sumsub, la cantidad de deepfakes en todo el mundo aumentó cuatro veces entre 2023 y 2024. En 2024, los deepfakes representaron el 7% de todos los fraudes, involucrando diversas formas, desde suplantación de identidad y usurpación de cuentas hasta complejas actividades de ingeniería social. Para abordar este problema, Meta ha lanzado una nueva herramienta, Meta Video Seal, destinada a agregar una marca de agua indetectable a los videos generados por IA
A principios de año, existía una gran preocupación sobre cómo la inteligencia artificial generativa podría interferir en las elecciones globales, difundiendo propaganda y desinformación. Sin embargo, un informe reciente de Meta muestra que estas preocupaciones no se han materializado en su plataforma. Meta afirma que el impacto de la inteligencia artificial generativa en la información relacionada con las elecciones en plataformas como Facebook, Instagram y Threads ha sido mínimo. Nota de la imagen: Imagen generada por IA, la imagen fue proporcionada por el servicio de imágenes Midjourney basándose en la investigación de Meta.
Un nuevo estudio del Centro de Noticias Digitales Tow de la Universidad de Columbia enciende las alarmas sobre los servicios de búsqueda de inteligencia artificial. El estudio revela que ChatGPT tiene graves problemas de precisión al citar fuentes de noticias, incluso las editoriales que colaboran directamente con OpenAI no se salvan. El equipo de investigación realizó una prueba exhaustiva de 200 citas de noticias de 20 editoriales diferentes, y los resultados son alarmantes: en estos casos, ChatGPT cometió errores o proporcionó información de fuentes parcialmente incorrectas en 153 ocasiones. Lo que resulta aún más preocupante es que...
Tras las elecciones presidenciales estadounidenses de 2024, la desinformación se propagó en internet a una velocidad asombrosa, afectando gravemente la percepción de los estadounidenses sobre los candidatos y temas como la salud pública, el cambio climático y la inmigración. El desarrollo de la inteligencia artificial generativa, junto con su capacidad para generar deepfakes y su propensión a 'alucinar' hechos, podría exacerbar aún más este problema. Nota de la imagen: Imagen generada por IA, servicio de licencias de imágenes MidjourneyPara abordar este desafío, nace la startup noruega Factiverse. La compañía participó en 10
