Flood Sung, investigador del Lado Oscuro de la Luna, publicó recientemente un extenso artículo de miles de palabras, revelando por primera vez en detalle el enfoque de desarrollo del modelo k1.5 y reflexionando profundamente sobre las implicaciones tecnológicas del modelo OpenAI o1. Según Flood Sung, la importancia de Long-CoT (razonamiento de cadena larga) ya fue verificada hace más de un año por Tim Zhou Xinyu, cofundador del Lado Oscuro de la Luna. Al usar modelos pequeños para entrenar cálculos de varios dígitos y convertir el proceso de cálculo de grano fino en datos de razonamiento de cadena larga para SFT (ajuste fino supervisado)

Google lanzó oficialmente el 22 de enero de 2025 una versión mejorada de su modelo de razonamiento Gemini 2.0 Flash Thinking, recuperando el primer puesto en Chatbot Arena. Esta actualización se centra principalmente en la capacidad de procesamiento de contexto largo, con soporte para entradas de hasta 1 millón de tokens, ofreciendo a los usuarios un análisis más profundo al procesar textos extensos. Jeff Dean, responsable de IA de Google, declaró en la presentación que esta actualización experimental tiene como objetivo mejorar el

El 15 de enero de 2025, MiniMax anunció el lanzamiento de código abierto de su nueva serie de modelos, MiniMax-01. Esta serie incluye el modelo básico de lenguaje grande MiniMax-Text-01 y el modelo multimodal de visión MiniMax-VL-01. La serie MiniMax-01 presenta una innovación audaz en su arquitectura, implementando por primera vez a gran escala un mecanismo de atención lineal, superando las limitaciones de la arquitectura Transformer tradicional. Con una cantidad de parámetros de hasta 456 mil millones y una activación única de 45,9 mil millones, su rendimiento general se compara con el de modelos internacionales.

La plataforma Alibaba Cloud Bailian anunció recientemente el lanzamiento del modelo de texto largo Qwen2.5-Turbo de millones de tokens. Desarrollado por el equipo de Tongyi Qianwen, Qwen2.5-Turbo admite el procesamiento de contextos extra largos de hasta 1 millón de tokens, equivalente a 1 millón de palabras en inglés o 1,5 millones de caracteres chinos.

Nous Research, un instituto de investigación de inteligencia artificial, ha lanzado recientemente el chatbot Nous Chat, que proporciona acceso a su modelo de lenguaje grande Hermes3-70B. Nous Chat ofrece una interfaz familiar similar a ChatGPT, permitiendo a los usuarios interactuar con el modelo sin necesidad de ejecutar código por sí mismos. Nous Chat cuenta con funciones como memoria de contexto largo, diálogo multiturno, interpretación de roles complejos y monólogos internos. Actualmente, Nous Rese...

Recientemente, los modelos de lenguaje grandes (LLM) con ventanas de contexto extra largas se han convertido en un tema candente de discusión. Estos modelos pueden procesar cientos de miles o incluso millones de tokens en una sola indicación, abriendo nuevas posibilidades para los desarrolladores. Sin embargo, ¿qué tan bien pueden estos LLM de contexto largo realmente comprender y utilizar la gran cantidad de información que reciben? Para abordar esta cuestión, los investigadores de Google DeepMind han presentado un nuevo benchmark llamado Michelangelo, diseñado para evaluar la capacidad de inferencia de contexto largo. Los resultados de la investigación muestran que...

El Instituto de Inteligencia Artificial de Beijing Zhiyuan y la Escuela de Inteligencia Artificial GaoLing de la Universidad del Pueblo Chino han lanzado conjuntamente un innovador marco de modelo de inteligencia artificial: MemoRAG. Este marco, basado en la memoria a largo plazo, tiene como objetivo impulsar el desarrollo de la tecnología de generación mejorada por recuperación (RAG), permitiéndole manejar tareas más complejas que van más allá de las simples preguntas y respuestas.

Google presenta tres modelos de IA experimentales de la serie Gemini 1.5: Gemini 1.5 Flash-8B, una versión compacta con un rendimiento excepcional ideal para aplicaciones de IA ligeras; Gemini 1.5 Pro, un modelo más potente con una capacidad de codificación y manejo de instrucciones complejas significativamente mejoradas, perfecto para usuarios que necesitan asistencia de IA avanzada; y Gemini 1.5 Flash, un modelo optimizado para un rendimiento excelente. Estos nuevos modelos ya están disponibles para su prueba en la plataforma AI Studio, donde Google ofrece una transición fluida.

Google AI Studio presenta una nueva biblioteca de indicaciones nativas que integra el contexto de texto largo, la entrada multimodal (imágenes, videos, audio) y la salida estructurada, con el objetivo de ofrecer a los usuarios una experiencia rica y diversa en múltiples campos como la educación, la programación y los viajes. Esta biblioteca incluye funciones prácticas como un generador de recetas, un tutor de matemáticas, un generador de tareas de matemáticas, un diseño de búsqueda del tesoro, un generador de pruebas unitarias y sugerencias de viajes. A través de una presentación intuitiva e información completa, se busca mejorar la sensación de exploración e innovación del usuario. Los usuarios solo necesitan iniciar sesión en Google AI St

智谱AI ha anunciado que GLM-4-Long, un LLM con capacidad para contextos extra largos, ya está disponible en la plataforma abierta bigmodel.cn. Este modelo está diseñado para procesar textos extra largos, pudiendo leer de una sola vez el equivalente a dos novelas de "Sueño en el Pabellón Rojo" o 125 artículos académicos. Sus aplicaciones incluyen la traducción de documentos largos, el análisis global de informes financieros, la extracción de información clave y la creación de chatbots con memoria extra larga.

​Beijing Moonshot AI Technology Co., Ltd. (Moonshot AI) anuncia el lanzamiento oficial de la API empresarial de Kimi. Estas API ofrecen capacidad de inferencia de modelos a nivel empresarial, garantizando que los programas tengan una experiencia de estabilidad líder en el sector, al tiempo que ofrecen un mayor nivel de seguridad de datos y velocidad de concurrencia. Además, Kimi ofrece servicios de soporte técnico exclusivos y brinda a los usuarios la oportunidad de experimentar de forma prioritaria los modelos de próxima generación y las nuevas capacidades.

La versión 2.5 de InternLM-XComposer (书生·浦语灵笔), desarrollada por el Laboratorio de Inteligencia Artificial de Shanghai, se centra en la capacidad de entrada y salida de contextos largos, funcionando sin problemas con una longitud de 96K mediante entrenamiento con datos de imagen-texto entrelazados de 24K. Sus mejoras incluyen: comprensión de imágenes de alta resolución, comprensión de video de grano fino y diálogo multironda con múltiples imágenes. En cuanto a las aplicaciones, se puede utilizar para crear páginas web y redactar artículos de alta calidad con imágenes y texto. Las evaluaciones muestran que supera a los modelos de código abierto más avanzados en 16 pruebas de referencia, y en tareas clave se compara con GPT-4V y Gem.

El punto más destacado del nuevo modelo gpt-4o-64k-output-alpha de OpenAI es su capacidad para generar una salida de hasta 64K tokens a la vez, ideal para contenido extenso y detallado, cubriendo necesidades en escritura, programación y análisis de datos complejos. Sin embargo, esta funcionalidad incrementa el precio de la API, con un coste de 18 dólares por millón de tokens de salida, en comparación con los 6 dólares por millón de tokens de entrada. Esta medida busca compensar los altos costes computacionales y fomentar el uso responsable de esta potente herramienta. El modelo es una gran ayuda para la creación y la investigación.

Apple y Meta AI presentan conjuntamente la nueva tecnología 'LazyLLM', diseñada para mejorar la eficiencia de los modelos de lenguaje grandes en la inferencia de textos largos. Las arquitecturas Transformer modernas enfrentan problemas de lentitud al procesar prompts largos, especialmente debido a la complejidad computacional que aumenta linealmente. Para abordar esto, LazyLLM emplea una estrategia de selección dinámica de tokens importantes, reduciendo la carga computacional mientras mantiene la precisión del modelo. Su mecanismo eficiente incluye la evaluación de las puntuaciones de atención de capas anteriores, la reducción dinámica del costo computacional, la restauración dinámica de los tokens podados y el uso de Aux Cache.

El modelo Spark Pro-128K lanzado por iFlytek StarFire ofrece una capacidad excepcional para procesar textos extremadamente largos, mejorando significativamente el valor de la IA en campos como las finanzas, la atención médica y la investigación. Este modelo, con su API abierta a los desarrolladores, ofrece un precio asequible (0,21 yuanes/10.000 tokens) y una amplia gama de funciones para una mayor usabilidad. Spark Pro-128K no solo cuenta con procesamiento de texto extra largo y rastreo de contenido (mostrando la fuente de las respuestas), con comprensión y análisis directo de chino e inglés, sino que también ofrece el modelo Ultra, entre otras características.

Ayer, la plataforma abierta Kimi de la cara oculta de la luna anunció que el almacenamiento en caché de contexto (Context Caching) ha comenzado su prueba pública. Esta tecnología, sin modificar el precio de la API, permite a los desarrolladores reducir hasta un 90% el coste de uso de los modelos de lenguaje extenso de gama alta, y mejorar significativamente la velocidad de respuesta del modelo.

Baidu planea ofrecer gratuitamente la capacidad de procesamiento de texto largo, con un rango de 2 a 5 millones de caracteres. Tras la actualización de la versión, Baidu Wenxin Yiyan proporcionará una capacidad de procesamiento de texto más amplia. Esta medida se implementará oficialmente el próximo mes y es de gran importancia para los usuarios. La apertura de la capacidad de texto largo de Baidu mejorará considerablemente la eficiencia y la comodidad del procesamiento de texto para los usuarios.

La función de 'procesamiento de texto largo de 5 millones de caracteres' de 360 ZhiNao se integrará en el navegador 360AI. Se ofrecerá soporte para varios tipos de documentos. Los usuarios disfrutarán de un servicio de procesamiento de texto conveniente en dispositivos móviles.

Yang Zhilin, fundador de 'MoonShot AI', es el primer autor de artículos como XLNet, profesor de la Facultad de Información Cruzada de la Universidad de Tsinghua. MoonShot AI, fundada por Yang Zhilin, completó una ronda de financiación de la Serie A de casi 2 mil millones de yuanes, con inversores como Sequoia Capital. MoonShot AI lanzó Kimi Chat, su primer producto de modelo grande que admite la entrada de 200.000 caracteres chinos. MoonShot AI ha logrado la aplicación de modelos grandes en escenarios de texto largo a través de la innovación algorítmica. MoonShot AI declaró que continuará aumentando la inversión en tecnología.