Anthropic, una empresa líder en IA, ha retirado discretamente su colaboración con el gobierno de Biden en materia de seguridad de la IA. Este movimiento plantea interrogantes sobre el compromiso de las grandes tecnológicas con la seguridad de la IA y un posible cambio de estrategia.

El 28 de febrero, el Ministerio de Industria y Tecnologías de la Información (MIIT) publicó la «Guía de gestión y tecnología para la admisión de productos, la retirada y las actualizaciones de software en línea de vehículos inteligentes y conectados», que exige que los sistemas de vehículos inteligentes y conectados cuenten con estrategias de restricción, como la inhabilitación de la función correspondiente, cuando el conductor no utiliza correctamente las funciones combinadas de asistencia a la conducción. Esta nueva normativa tiene como objetivo mejorar aún más la seguridad y la capacidad de control de los sistemas de asistencia de conducción inteligente. Según la guía, los sistemas de vehículos inteligentes y conectados deben tener estrategias claras de activación, ejecución y salida. Para las funciones de asistencia a la conducción, cuando el sistema detecte que el conductor se ha separado de la tarea de conducción dinámica, no ha respondido a las advertencias y

Recientemente, una investigación del periódico británico The Guardian reveló posibles riesgos de seguridad en la herramienta de búsqueda de ChatGPT de OpenAI. La investigación descubrió que ChatGPT puede ser manipulado al procesar resúmenes de páginas web que contienen contenido oculto, llegando incluso a devolver código malicioso. Este contenido oculto puede incluir instrucciones de terceros destinadas a interferir con las respuestas de ChatGPT, o una gran cantidad de texto oculto que promociona un producto o servicio. Nota de la imagen: Imagen generada por IA, la imagen fue probada con el servicio de licencias de imágenes Midjourney, ChatG

Con el rápido desarrollo de la tecnología de generación de imágenes, los creadores tienen una demanda creciente de diversidad en la salida de imágenes, protección de derechos de autor y efectos visuales. En este contexto, NegToMe surge como una innovación revolucionaria en el campo de la generación de imágenes. Esta tecnología innovadora, a través de un método de guía adversaria impulsado por imágenes, supera por completo las limitaciones de las indicaciones negativas tradicionales. A diferencia de los métodos de guía adversaria basados en texto, NegToMe se refiere directamente a las características visuales de la imagen, lo que permite un control preciso y flexible de la generación de imágenes. Las principales ventajas de la tecnología se reflejan en varios aspectos.

Google ha lanzado recientemente la nueva familia de modelos de IA PaliGemma 2, cuya función más destacada es la supuesta capacidad de 'reconocer' las emociones humanas a través del análisis de imágenes. Esta afirmación ha generado un amplio debate y serias dudas entre la comunidad académica y los expertos en ética tecnológica. Este sistema de IA, basado en el modelo abierto Gemma, puede generar descripciones detalladas de imágenes, yendo más allá del simple reconocimiento de objetos para intentar describir el comportamiento y las emociones de las personas en la imagen. Sin embargo, varios expertos de renombre han lanzado serias advertencias sobre la cientificidad de esta tecnología y sus riesgos potenciales.

Google lanzó recientemente su modelo de inteligencia artificial de última generación, PaliGemma2, una tecnología capaz de analizar imágenes y generar títulos, además de responder preguntas sobre las emociones y acciones de las personas en las fotografías. PaliGemma2, basado en la serie de modelos abiertos Gemma de Google, ofrece descripciones de imágenes más profundas que el reconocimiento de objetos tradicional, pudiendo identificar emociones y generar descripciones detalladas dentro del contexto. Sin embargo, a pesar de que esta tecnología parece ser una innovación revolucionaria, los expertos han lanzado serias advertencias sobre sus potenciales implicaciones éticas y sociales. El reconocimiento de emociones no es P

Recientemente, el ministro de Tecnología del Reino Unido, Peter Kyle, admitió la falta de transparencia del gobierno en el uso de la inteligencia artificial (IA) y los algoritmos, lo que genera inquietud pública sobre la aplicación de estas tecnologías. Desde que el gobierno anunció que exigiría a todos los departamentos que registraran el uso de sistemas de IA, ningún departamento de Whitehall ha completado el registro. Esto ha generado advertencias sobre la implementación de tecnologías algorítmicas en el sector público que afectan a millones de vidas, afirmando que se está actuando "a ciegas". Nota de la imagen: Imagen generada por IA, servicio de autorización de imágenes Mi

Recientemente, un incidente ocurrido en un grupo de Facebook para amantes de los hongos ha vuelto a suscitar preocupaciones sobre la seguridad de las aplicaciones de IA. Según 404Media, un agente de IA llamado 'FungiFriend' se infiltró en el grupo 'Identificación y debate sobre hongos del noreste', con 13.000 miembros, y ofreció consejos erróneos con un potencial riesgo mortal. Cuando se le preguntó cómo cocinar hongos Sarcosphaera coronaria con alta concentración de arsénico, FungiFriend no solo respondió incorrectamente, sino que...

El rápido desarrollo de la inteligencia artificial (IA) en los últimos años ha brindado a las empresas numerosas oportunidades, pero al mismo tiempo, sus amenazas potenciales son cada vez más evidentes. Según el nuevo Informe de Riesgos de 2024, una encuesta revela que hasta el 80% de las empresas encuestadas aún no han elaborado un plan específico para abordar los riesgos de la IA generativa, incluyendo los problemas de seguridad como el fraude cibernético impulsado por la IA. Esta encuesta fue realizada por la empresa de software de gestión de riesgos Riskconnect, y los encuestados incluyeron 218 profesionales globales de cumplimiento de riesgos y resiliencia.

Con el avance de la inteligencia artificial, empresas tecnológicas como Google y Meta enfrentan nuevos riesgos legales de difamación al utilizar reseñas o comentarios de usuarios para generar respuestas con IA en sus plataformas. Expertos legales australianos señalan que, generalmente, cuando un usuario publica comentarios difamatorios en Google o Facebook, es el usuario quien asume la responsabilidad legal. Sin embargo, una decisión importante del Tribunal Superior de Australia en el caso de Dylan Waller en 2021, estableció que las plataformas que alojan comentarios difamatorios, como las páginas de redes sociales, también podrían ser responsables.

El equipo de investigación de Disney ha presentado recientemente un nuevo método de compresión de imágenes que utiliza el modelo de código abierto Stable Diffusion V1.2. Este método permite generar imágenes más realistas a una tasa de bits más baja que la de sus competidores. Este nuevo método se denomina 'códec' y, aunque es mucho más complejo que los códecs JPEG y AV1 tradicionales, su rendimiento es asombroso. El estudio muestra que el nuevo método es superior en la recuperación de detalles de la imagen, al tiempo que reduce considerablemente los costes de entrenamiento. Investigador

Recientemente, el gobernador del Banco de la Reserva de la India, Shri Shaktikanta Das, emitió una advertencia en una importante conferencia, afirmando que la inteligencia artificial (IA) y sus plataformas relacionadas podrían aumentar el riesgo sistémico del sistema financiero indio. En esta conferencia de alto nivel con el tema "RBI90", Das señaló que si bien la IA y el aprendizaje automático abren nuevas oportunidades comerciales y de crecimiento de beneficios para las instituciones financieras, también conllevan riesgos considerables. Das afirmó que unos pocos proveedores de servicios de IA podrían dominar el mercado, lo que provocaría una concentración.

Datricks, una startup de Tel Aviv, Israel, ha recaudado 15 millones de dólares en una ronda de financiación Serie A liderada por la firma de capital riesgo Team8, con la participación del gigante mundial de software empresarial SAP y el inversor existente Jerusalem Venture Partners (JVP).

Highwire lanza una herramienta de gestión de riesgos de seguridad basada en IA que proporciona información detallada a los contratistas mediante la revisión automatizada de documentos y la identificación de riesgos, lo que reduce miles de horas de revisión manual tradicional. La herramienta proporciona evaluaciones de contratistas más precisas, ayudando a los gerentes a implementar estrategias de mitigación antes de que comience el trabajo. Clasifica los protocolos de seguridad como generales, detallados o exhaustivos, yendo más allá de un simple análisis de aprobado/reprobado para permitir una toma de decisiones más inteligente. Desarrollada en la Universidad de Harvard, esta tecnología de IA está diseñada para servir tanto a las grandes empresas con programas de seguridad maduros como a los contratistas más pequeños, con el objetivo de mejorar la seguridad.

Desde 2022, la frecuencia con la que las empresas de la lista Fortune 500 de Estados Unidos mencionan la inteligencia artificial generativa en sus informes financieros ha aumentado significativamente en un 250%, con aproximadamente el 22% de las empresas mencionando el tema. Sin embargo, preocupa que cerca del 70% de las menciones se centren en los riesgos, incluyendo la posición competitiva, la seguridad y la propagación de información errónea, lo que refleja la preocupación de las empresas por los riesgos potenciales de la IA. Alrededor del 56% de las empresas consideran la IA como un riesgo potencial, un aumento del 474% con respecto al año anterior. En comparación, solo el 31% de las empresas destacan los efectos positivos de la IA generativa. A pesar de ello, también hay un...

La preocupación por los riesgos de la inteligencia artificial (IA) ha aumentado significativamente entre las empresas Fortune 500. Un informe indica que 281 empresas ya han incluido la IA como factor de riesgo, lo que representa un 56,2% y un aumento del 473,5% en comparación con las 49 empresas del año pasado. El riesgo de la IA se extiende a todos los sectores, especialmente en el sector de los medios y el entretenimiento, donde el 91,7% de las empresas expresaron su preocupación. Con el lanzamiento de ChatGPT por parte de OpenAI, la concienciación y el interés en la IA han aumentado considerablemente, con un crecimiento interanual del 152% en el número total de empresas que mencionan la IA. La preocupación por los riesgos de la IA varía según el sector, siendo los medios...

OpenAI publicó recientemente la tarjeta del sistema GPT-4o, que detalla las medidas de seguridad y la evaluación de riesgos antes del lanzamiento del nuevo modelo. GPT-4o se lanzó oficialmente en mayo, y la evaluación muestra un riesgo general "medio", con los principales riesgos centrados en la ciberseguridad, las amenazas biológicas, la persuasión y la autonomía del modelo. Los investigadores encontraron que, aunque GPT-4o puede ser más persuasivo para influir en las opiniones de los lectores, en general no supera a los humanos. Al publicar la tarjeta del sistema, OpenAI se enfrenta a críticas de empleados internos y senadores estatales que cuestionan su...

El Reglamento de Inteligencia Artificial de la UE entró en vigor el 1 de agosto de 2024, marcando el comienzo de una nueva era en la regulación de la IA. Este reglamento establece estándares claros y requisitos de cumplimiento para las aplicaciones de IA en la UE, reflejando una estrategia de gobernanza basada en la gestión de riesgos. Tras su implementación, los desarrolladores y las aplicaciones de IA se clasificarán según su nivel de riesgo y estarán sujetos a requisitos de cumplimiento con plazos diferentes. Se prohíbe el uso de la tecnología de IA en determinadas circunstancias, como el uso de la biometría remota por parte de las fuerzas del orden en espacios públicos. Las aplicaciones de IA de alto riesgo deberán someterse a evaluaciones estrictas y auditorías regulatorias, mientras que las aplicaciones de riesgo mínimo deberán...

Un informe del Departamento de Comercio de EE. UU. apoya los modelos de IA generativa de pesos abiertos, como Llama3.1 de Meta, argumentando que esto ayuda a las pequeñas empresas, investigadores, organizaciones sin fines de lucro y desarrolladores individuales a acceder a los recursos de IA, fomentando la innovación y la competencia. Esta opinión coincide con la de la presidenta de la Comisión Federal de Comercio, Lina Khan, quien destaca que los modelos abiertos pueden impulsar una mayor creatividad en el mercado para las pequeñas empresas. El subsecretario de Comercio, Alan Davidson, declaró que la apertura de los grandes sistemas de IA tiene un impacto significativo en la competencia, la innovación y el riesgo, e instó a la monitorización de los grandes modelos de IA.

El Departamento de Justicia está intensificando la supervisión de la inteligencia artificial y advierte que las empresas que abusen de ella se enfrentarán a sanciones severas. Un vicefiscal general mencionó la evaluación de los planes de cumplimiento de las empresas, considerando la gestión de riesgos tecnológicos. La demanda contra un exempleado de Google pone de manifiesto los peligros del uso indebido de la inteligencia artificial. Se insta a las empresas a que refuercen sus medidas de control y se advierte de las consecuencias legales del incumplimiento de la normativa.