Recientemente, un conjunto de imágenes de IA llenas de imaginación se han vuelto virales en las redes sociales, integrando ingeniosamente al adorable personaje del juego, 'Gato grande', en los paisajes urbanos de Shanghái, provocando un acalorado debate entre los internautas. La blogger de Xiaohongshu 'Qu Yuan' ha utilizado la tecnología de IA para presentar una serie de escenas urbanas surrealistas. Este entrañable personaje parece tener una existencia mágica: flota en el río Huangpu como una gran barca hinchable, toma el sol tranquilamente a los pies de la Torre de la Perla del Oriente, hace 'check-in' frente al edificio Wukang, e incluso se transforma en un avión de peluche. Estas imágenes llenas de diversión infantil han obtenido instantáneamente 43.000 puntos.

Google vuelve a demostrar el poder de la innovación tecnológica. Hoy, el chip cuántico Willow ha presentado unos resultados asombrosos, logrando dos avances revolucionarios en el campo de la computación cuántica. Desde que se propuso la teoría de corrección de errores cuánticos en 1995, los científicos han estado trabajando para superar el desafío más difícil de la computación cuántica: cómo controlar el error de cálculo de los cúbits. Los cúbits son extremadamente frágiles y susceptibles al ruido ambiental, lo que provoca la pérdida de información. Es como escribir en la arena, donde cualquier brisa puede borrar lo escrito. El chip Willow ha cambiado radicalmente esta situación.

En el rápido desarrollo de la inteligencia artificial, el fenómeno de las "alucinaciones" de IA es cada vez más frecuente, causando problemas significativos a muchas empresas. Los chatbots de atención al cliente describen con confianza productos inexistentes, la IA financiera inventa datos de mercado, y los robots médicos ofrecen consejos médicos peligrosos. Estos problemas ya no son simples anécdotas, sino graves riesgos que afectan la reputación y los beneficios de las empresas. Para abordar este desafío, la empresa emergente Patronus AI, con sede en San Francisco, anuncia el lanzamiento de la primera plataforma de autoservicio a nivel mundial, diseñada para detectar y prevenir en tiempo real

Según datos recientes de la organización promotora de la automatización A3, el mercado de robots en Norteamérica experimentó una caída en ventas e ingresos durante la primera mitad de 2024, a pesar de ser un sector en auge. Específicamente, los pedidos de robots industriales disminuyeron un 7,5% interanual en el primer semestre, alcanzando únicamente las 15.705 unidades. Los ingresos totales también se redujeron en un 6,8%, hasta los 982,83 millones de dólares. Jeff Bernstein, responsable de A3, señala que las presiones macroeconómicas que enfrentan los fabricantes son la causa principal de esta situación. Nota de la imagen: Imagen

'Patronus AI lanza herramienta de detección de derechos de autor'; 'GPT-4 de OpenAI señalado como el que presenta los problemas de infracción de derechos de autor más graves'; 'Ingenieros de Microsoft señalan que las herramientas de generación de imágenes de IA podrían representar un peligro para la sociedad'

Patronus AI publica el kit de pruebas SimpleSafetyTests, que revela vulnerabilidades de seguridad críticas en sistemas de IA como ChatGPT. Las pruebas cubren cinco áreas de riesgo de alta prioridad, incluyendo suicidio, abuso infantil y daño físico, y revelan debilidades significativas en 11 LLM. Se destaca que las indicaciones de sistema seguras pueden reducir las respuestas inseguras, pero los resultados sugieren que los sistemas de producción podrían necesitar protecciones adicionales. Los resultados de las pruebas indican que los LLM requieren soluciones de seguridad rigurosas y personalizadas antes de su aplicación en el mundo real.

Patronus AI es una empresa emergente con sede en Estados Unidos dedicada a la seguridad y gobernanza de modelos de IA. La empresa acaba de cerrar una ronda de financiación de la Serie A de 3 millones de dólares, liderada por Lightspeed China. Patronus AI ofrece a los clientes empresariales una plataforma de evaluación, monitorización y mejora de la seguridad de los modelos de IA. La empresa utiliza redes generativas adversarias para proporcionar a los clientes empresariales servicios de evaluación de la seguridad de los modelos de IA. Patronus AI afirma que utilizará esta ronda de financiación para acelerar el desarrollo de productos y ampliar su equipo de I+D.