Recientemente, durante la conferencia académica de inteligencia artificial AAAI 2025, un equipo conjunto de Ant Group, la Universidad de Zhejiang, la Universidad de Liverpool y la Universidad Normal del Este de China presentó el innovador marco de ajuste fuera de sitio (offsite-tuning): ScaleOT. Este marco puede mejorar la protección de la privacidad en un 50% sin pérdida de rendimiento del modelo. En comparación con la técnica de destilación del conocimiento, el consumo de potencia de cálculo se reduce significativamente en un 90%, proporcionando una solución eficiente y ligera para el ajuste fuera de sitio de modelos con parámetros de miles de millones. El artículo fue seleccionado para una presentación oral en AAAI debido a su innovación.

El equipo de 360 ZhiNao, en colaboración con la Universidad de Pekín, ha lanzado oficialmente el modelo de inferencia de tamaño medio Tiny-R1-32B-Preview. Este modelo, con solo el 5% de los parámetros, se acerca con éxito al rendimiento completo de Deepseek-R1-671B, lo que demuestra el enorme potencial de los modelos pequeños en el campo de la inferencia eficiente. El modelo destaca especialmente en varios ámbitos clave. En el ámbito de las matemáticas, Tiny-R1-32B-Preview...

En el campo del monitoreo y análisis de terremotos, un importante avance tecnológico se lanzó oficialmente el 17 de enero en el Centro Nacional de Supercomputación de Chengdu. La tercera versión de prueba del primer modelo de ondas sísmicas de miles de millones de parámetros del mundo, el modelo "Dì tīng", ya está en línea. Este modelo fue desarrollado conjuntamente por el Centro Nacional de Supercomputación de Chengdu, el Instituto de Investigación Geofísica del Servicio Sismológico de China y la Universidad Tsinghua, lo que marca un gran avance en la tecnología de investigación sísmica de China. El objetivo del desarrollo del modelo "Dì tīng" es mejorar la precisión de identificación y la capacidad de monitoreo de las señales sísmicas, especialmente en áreas...

Meta ha publicado recientemente un avance innovador: han desarrollado una nueva tecnología de capa de memoria que mejora significativamente la precisión de los hechos de los modelos de lenguaje grandes (LLM), y que ha logrado una expansión sin precedentes en la escala de parámetros. Esta tecnología no solo desafía las formas tradicionales de expansión de las redes neuronales, sino que también ofrece nuevas vías para el diseño de arquitecturas de IA futuras. El núcleo de esta investigación radica en el uso de un mecanismo de búsqueda de clave-valor entrenable para agregar parámetros adicionales al modelo sin aumentar la cantidad de cálculos (FLOPs). Este método se basa en...

En un artículo de investigación centrado en la evaluación de IA médica, Microsoft parece haber revelado 'sin querer' el tamaño de los parámetros de varios modelos lingüísticos grandes de primer nivel. Este artículo, publicado el 26 de diciembre, no solo revela datos sobre los parámetros de modelos de varias compañías, incluyendo OpenAI y Anthropic, sino que también ha generado un debate en la industria sobre la arquitectura de los modelos y su capacidad tecnológica. Según el artículo, el modelo o1-preview de OpenAI tiene aproximadamente 300B parámetros, GPT-4o alrededor de 200B, y GPT-4o-mini...

QuantSpace lanzó el 26 de diciembre su nueva generación de modelos grandes, DeepSeek-V3, mostrando un asombroso avance tecnológico. Este modelo, que utiliza la arquitectura MoE (Mixture of Experts), no solo iguala en rendimiento a los modelos de código cerrado de primer nivel, sino que sus características de bajo coste y alta eficiencia están atrayendo la atención de la industria. En cuanto a los parámetros centrales, DeepSeek-V3 cuenta con 6710 mil millones de parámetros, de los cuales 37 000 millones son parámetros de activación, y se ha preentrenado con 14,8 billones de tokens de datos. En comparación con la generación anterior, la velocidad de generación del nuevo modelo ha aumentado en un 3%

State Grid Corporation of China anunció recientemente el lanzamiento del primer modelo de lenguaje grande de inteligencia artificial de miles de millones de parámetros para la industria eléctrica de China: el Modelo de Energía Lumínica. Asimismo, firmaron un acuerdo marco de cooperación estratégica con Baidu Group y Alibaba Group. Según fuentes oficiales, colaborarán en la construcción del Modelo de Energía Lumínica para impulsar la innovación tecnológica y la integración de la innovación industrial en el sector de energía eléctrica.

Con el rápido avance de la inteligencia artificial, la integración de la capacidad visual y lingüística ha impulsado avances innovadores en los modelos de lenguaje visual (VLMs). Estos modelos están diseñados para procesar y comprender simultáneamente datos visuales y de texto, con amplias aplicaciones en descripción de imágenes, preguntas y respuestas visuales, reconocimiento óptico de caracteres y análisis de contenido multimodal. Los VLMs han desempeñado un papel importante en el desarrollo de sistemas autónomos, la mejora de la interacción humano-computadora y la creación de herramientas eficientes de procesamiento de documentos, logrando cerrar con éxito la brecha entre estas dos modalidades de datos. Sin embargo, el procesamiento de datos visuales de alta resolución y entradas de texto diversas presenta desafíos.

Jieyue Xingchen anunció recientemente el lanzamiento de Step-1o, el nuevo miembro de la matriz de modelos de la serie Step, un modelo lingüístico de audio de extremo a extremo con miles de millones de parámetros, supuestamente el primero de su tipo en China. El lanzamiento de este nuevo modelo representa un gran avance en el campo de la tecnología de voz. A través de una solución de voz de extremo a extremo, puede lograr la integración de la comprensión y generación de voz, mejorando así el límite superior del cociente intelectual y emocional del modelo y logrando una experiencia de comunicación de alta calidad y sobrenatural.

En la era del rápido desarrollo de la inteligencia artificial, JD Cloud está demostrando el poder de la innovación tecnológica con acciones concretas. Recientemente, JD Cloud lanzó la plataforma de marketing inteligente Yanxi, presentando diez productos de marketing con IA que ofrecen soluciones inteligentes a más de 800.000 comerciantes, mostrando el enorme potencial de la IA en la aplicación industrial. Esta solución de marketing inteligente abarca múltiples escenarios, desde personas digitales hasta asistentes de compras inteligentes y edición inteligente. Lo más destacado son sus excelentes resultados prácticos. La tasa de uso de contenido AIGC alcanza el 80%, con un aumento promedio del 30% en la tasa de conversión, lo que demuestra...

En los últimos años, la demanda de modelos de aprendizaje automático para tareas de visión y lenguaje ha aumentado considerablemente. Sin embargo, la mayoría de estos modelos requieren enormes recursos computacionales, lo que impide su funcionamiento eficiente en dispositivos personales. Especialmente dispositivos pequeños como portátiles, GPUs de consumo y dispositivos móviles enfrentan grandes desafíos al procesar tareas de visión y lenguaje. Qwen2-VL, por ejemplo, aunque ofrece un rendimiento excelente, exige hardware potente, lo que limita su utilidad en aplicaciones en tiempo real. Por lo tanto, el desarrollo de modelos ligeros que funcionen con recursos limitados se ha convertido en una necesidad.

China está avanzando constantemente en el campo de la inteligencia artificial con una postura de innovación independiente. El 26 de noviembre, el primer modelo multimodal a gran escala del mundo con miles de millones de parámetros, 'Zidong Taichu' 3.0, hizo su debut oficial en Wuhan, añadiendo una pincelada significativa a la tecnología de IA nacional. Esto no es solo una iteración tecnológica, sino un hito importante para el ecosistema de IA de China. Desarrollado conjuntamente por el Instituto de Automatización de la Academia China de Ciencias, Huawei y la Zona de Alta Tecnología de Donghu en Wuhan, 'Zidong Taichu' ha construido con éxito el primer modelo de entrenamiento previo del mundo que cubre tres modalidades: imágenes, texto y audio. Fuente de la imagen en preparación

En la Cumbre de la Conferencia Mundial de Internet de Wuzhen 2024 celebrada hoy, el CEO de Honor, Zhao Ming, ofreció una visión sobre el futuro desarrollo de los teléfonos móviles. Afirmó que se espera que para 2027, los teléfonos móviles puedan integrar grandes modelos de IA con cientos de miles de millones de parámetros. Este avance permitirá a los teléfonos móviles aprender, comprender y predecir el comportamiento y las intenciones del usuario, ofreciendo así una planificación de vida y trabajo más personalizada. Nota sobre la imagen: Imagen generada por IA, proveída por Midjourney. Actualmente, ya existen en el mercado varios teléfonos móviles que incorporan modelos de IA a escala de

Recientemente, la startup Moondream de Seattle lanzó moondream2, un modelo de lenguaje visual compacto. A pesar de su pequeño tamaño, el modelo ha demostrado un rendimiento excepcional en varias pruebas de referencia, atrayendo mucha atención. Como modelo de código abierto, moondream2 tiene el potencial de permitir el reconocimiento de imágenes local en teléfonos inteligentes. Lanzado oficialmente en marzo, moondream2 puede procesar entradas de texto e imágenes, con capacidades para responder preguntas, extraer texto (OCR), contar objetos y clasificar elementos.

Recientemente, un equipo de investigación de varias instituciones de investigación chinas ha publicado un conjunto de datos multimodales a gran escala llamado Infinity-MM, y ha entrenado un modelo de IA de alto rendimiento llamado Aquila-VL-2B basado en este conjunto de datos. Este avance ha inyectado una nueva fuerza impulsora en el desarrollo de la IA multimodal. El conjunto de datos Infinity-MM es asombrosamente grande, incluyendo cuatro categorías principales de datos: 10 millones de descripciones de imágenes, 24,4 millones de datos de instrucciones visuales generales, 6 millones de datos de instrucciones de alta calidad seleccionados y 3 millones de datos generados por G

El equipo de investigación de Nvidia ha logrado un gran avance en el campo del control robótico. Han desarrollado un sistema de red neuronal, HOVER, que controla robots humanoides de manera eficiente con una cantidad de parámetros extremadamente reducida, superando incluso a sistemas de control diseñados específicamente para ello. HOVER, con solo 1,5 millones de parámetros, puede gestionar el control de movimientos robóticos complejos. En comparación, los grandes modelos de lenguaje suelen requerir cientos de miles de millones de parámetros. Esta asombrosa eficiencia de parámetros demuestra la inteligencia del diseño del sistema. El entrenamiento de HOVER se realizó en la simulación Isaac de Nvidia.

Google ha anunciado una gran noticia en el Día de los Desarrolladores de Gemma en Tokio: el lanzamiento oficial del nuevo modelo Gemma en japonés. Este modelo de IA, pequeño pero potente, con solo 2 mil millones de parámetros, puede manejar tanto el japonés como el inglés, mostrando un rendimiento comparable al de GPT-3.5. Este avance tecnológico es particularmente notable. En el campo de la IA, los modelos pequeños a menudo enfrentan el desafío del "olvido catastrófico" al aprender nuevos idiomas: pierden habilidades previamente adquiridas al obtener nuevos conocimientos. Sin embargo, la versión japonesa de Gemma ha superado con éxito este desafío.

Durante el reciente Día de los Desarrolladores de Gemma en Tokio, Google lanzó oficialmente el nuevo modelo de IA Gemma en japonés. Este modelo ofrece un rendimiento comparable a GPT-3.5, pero con solo 2 mil millones de parámetros, es muy pequeño y adecuado para ejecutarse en dispositivos móviles. Este lanzamiento de Gemma destaca en el procesamiento del idioma japonés, manteniendo al mismo tiempo sus capacidades en inglés. Esto es especialmente importante para los modelos pequeños, ya que pueden sufrir un "desastre de olvido catastrófico" al ajustar nuevos idiomas.

La startup de IA Moondream ha anunciado oficialmente que ha completado una ronda de financiación semilla de 4,5 millones de dólares, y ha presentado un concepto bastante revolucionario: en el mundo de los modelos de IA, los modelos más pequeños pueden ser más ventajosos. La compañía, respaldada por Felicis Ventures, M12 de Microsoft, el fondo GitHub y Ascend, ha lanzado un modelo de lenguaje visual con solo 1600 millones de parámetros, que puede igualar el rendimiento de modelos cuatro veces más grandes. Moondream ha...