Google anunció esta semana que agregará marcas de agua digitales a las imágenes editadas con su función de IA Magic Editor. Esta marca de agua se aplica específicamente a las imágenes modificadas en dispositivos Pixel 9 mediante la función Reimagine. El lanzamiento de esta nueva función tiene como objetivo mejorar la capacidad del público para identificar el contenido generado y editado por IA. La función Reimagine, anunciada en 2024, utiliza tecnología de IA generativa para realizar diversas modificaciones en fotografías digitales. Esta función junto con Magic Ed...

En el avance hacia la transparencia en el campo de la inteligencia artificial (IA), la Asociación de la Industria de Computación y Comunicaciones (CCIA) anunció conjuntamente en Bruselas y Washington una nueva iniciativa innovadora: una plantilla global de informes de transparencia del sector. Esta plantilla tiene como objetivo mejorar la confianza y la comprensión pública de los datos de entrenamiento de los modelos de Inteligencia Artificial Generalizada (GPAI). La "plantilla de transparencia de datos de entrenamiento de modelos de IA" publicada requiere que las empresas divulguen los tipos de datos utilizados para entrenar modelos GPAI específicos, como podcasts, libros, etc., y también deben aclarar la principal...

El senador de Vermont, Peter Welch, presentó recientemente un nuevo proyecto de ley llamado "Ley de Transparencia y Responsabilidad en la Red de Inteligencia Artificial" (TRAIN Act), destinado a aumentar la transparencia de los desarrolladores de inteligencia artificial. Esta legislación, de ser aprobada, permitiría a los titulares de derechos de autor emitir citaciones a las partes involucradas para obtener registros de entrenamiento si creen que sus obras se han utilizado sin autorización para entrenar modelos de inteligencia artificial. Nota sobre la imagen: Imagen generada por IA, imagen provista por Midjourney.

Recientemente, el gobierno británico ha introducido una herramienta de inteligencia artificial llamada "Identificación y Priorización de Casos de Inmigración" (IPIC) en la gestión de la inmigración. El objetivo de esta herramienta es mejorar la eficiencia de la aplicación de las leyes de inmigración, pudiendo recomendar la deportación forzosa de inmigrantes, incluyendo adultos y niños. Sin embargo, los grupos de derechos humanos se oponen firmemente, argumentando que esta práctica podría intensificar la opresión de los inmigrantes y hacer que el proceso de toma de decisiones dependa excesivamente de algoritmos. Nota sobre la imagen: Imagen generada por IA, servicio de licencia de imágenes Midjourney después de un año.

El gigante de las redes sociales Meta está a punto de realizar un importante ajuste en la forma en que etiqueta el contenido generado por IA en sus plataformas Instagram, Facebook y Threads. A partir de la semana que viene, la etiqueta de 'Información de IA' para contenido editado o modificado por herramientas de IA se trasladará al menú de la publicación, dejando de mostrarse directamente debajo del nombre del usuario. Este cambio presenta varios puntos clave: 1. Distinción de etiquetas: el contenido generado completamente por IA seguirá manteniendo una etiqueta visible, mientras que la etiqueta del contenido solo editado por IA se ocultará. 2. Origen de la transparencia: Me

Anthropic ha publicado recientemente las indicaciones del sistema para su modelo Claude, incluyendo las versiones Claude 3.5 Opus, Sonnet y Haiku. Este es un gran avance en la industria de la IA, ya que la mayoría de los proveedores suelen mantener esto en secreto. Esta acción mejora la transparencia de la IA, ya que las reglas de comportamiento y los rasgos de personalidad de Claude se detallan en estas indicaciones. Los modelos de IA generativa producen texto basados en predicciones estadísticas, y las indicaciones del sistema se utilizan para guiar el comportamiento del modelo y evitar un funcionamiento inadecuado. La iniciativa de Anthropic tiene como objetivo...

IBM lanza Watsonx Governance para ayudar a las empresas a mejorar la transparencia de sus modelos de IA. Watsonx Governance proporciona herramientas para gestionar el riesgo y mejorar la transparencia. Los servicios de consultoría de IBM amplían la experiencia estratégica para ayudar a los clientes a implementar una IA responsable. Watsonx Governance es uno de los tres nuevos productos de software de la plataforma de IA Watsonx. IBM también anuncia mejoras a su Watsonx

Investigadores, en colaboración con instituciones como MIT y Cohere for AI, lanzan la Plataforma de Procedencia de Datos para abordar el problema de la transparencia de datos en IA. Se auditaron y rastrearon más de 2000 conjuntos de datos ampliamente utilizados, destacando la importancia de la transparencia de datos. La falta de trazabilidad de los conjuntos de datos puede provocar fugas de datos, exposición de información personal, sesgos y riesgos legales. Se espera que la Plataforma de Procedencia de Datos mejore la transparencia de los datos de IA y la calidad de los conjuntos de datos.

'🔍 El Índice de Transparencia de Modelos Fundamentales de la Universidad de Stanford revela una falta de información por parte de los desarrolladores de modelos de IA sobre las potenciales implicaciones sociales. ''Llama 2 de Meta obtuvo la mejor puntuación en transparencia, pero aún presenta deficiencias. ''El estudio destaca los desafíos que enfrenta la industria de la IA en materia de transparencia y la importancia de la regulación para fomentar una mayor transparencia.'

TikTok ha implementado una nueva medida: la introducción de etiquetas para contenido generado por IA. Estas etiquetas son obligatorias para los creadores y alertan a los espectadores de que el contenido ha sido generado por inteligencia artificial. Se planea renombrar los filtros y efectos que utilizan herramientas de IA para mejorar su identificación. Esta iniciativa tiene como objetivo aumentar la transparencia del contenido y mantener la calidad del mismo en la plataforma. La experiencia del usuario mejorará como resultado.