En el campo de la inteligencia artificial, los modelos de lenguaje grandes (LLM) están en constante evolución. Recientemente, investigadores de la Universidad Carnegie Mellon (CMU) y HuggingFace presentaron un nuevo método llamado "Meta Reinforcement Fine-Tuning" (MRT). Este método busca optimizar la eficiencia computacional de los modelos de lenguaje grandes durante las pruebas, especialmente al resolver problemas complejos de razonamiento, donde muestra un rendimiento excepcional. Los estudios demuestran que los modelos de lenguaje grandes existentes tienen dificultades en el razonamiento...

¿Te desespera la lentitud de los modelos grandes al procesar textos largos? ¡No te preocupes! La Universidad de Tsinghua presenta una tecnología revolucionaria: el marco de inferencia APB paralelo por secuencia, ¡un verdadero motor turbo para los modelos grandes! Las pruebas muestran que esta tecnología, al procesar textos extremadamente largos, es hasta 10 veces más rápida que Flash Attention. ¡Sí, has leído bien, 10 veces más rápido! Con el auge de modelos como ChatGPT, la capacidad de "lectura" de la IA ha aumentado considerablemente, pudiendo procesar fácilmente textos de cientos de miles de palabras. Sin embargo, esto plantea un reto...

SiliconCloud anuncia oficialmente que Trae, el primer entorno de desarrollo integrado (IDE) nativo de IA lanzado por ByteDance, se ha integrado en la plataforma SiliconCloud, con el objetivo de ofrecer a los desarrolladores una experiencia de programación más eficiente. Trae ahora integra varios modelos de SiliconCloud; los usuarios solo necesitan una clave API para acceder a varios modelos de codificación como DeepSeek-R1, V3, QWQ-32B y Qwen2.5-Coder. Esta opción flexible satisface las necesidades de desarrollo de...

El gigante de las redes sociales Meta se enfrenta a una presión sin precedentes sobre los costes de infraestructura de IA, con previsiones de un gasto en IA de la asombrosa cifra de 650.000 millones de dólares, elevando el gasto anual total a posiblemente 1190.000 millones de dólares. Ante esta factura astronómica, el gigante tecnológico ha decidido apostar por el desarrollo propio de chips de IA, logrando avances significativos en este campo. Los últimos informes indican que Meta está a punto de iniciar el despliegue a pequeña escala de sus chips propios, lo que sugiere que Meta está en camino de reducir su dependencia de Nvidia y sus

Tianyancha App muestra que Beijing Silicon Based Flow Technology Co., Ltd. ha experimentado recientemente un cambio comercial importante. En este cambio, Beijing Zhipu Huazhang Technology Co., Ltd. se retiró de la lista de accionistas, mientras que se agregaron cuatro nuevos inversores: Tianjin SanKuai Technology Co., Ltd. (subsidiaria de Meituan), Beijing Xinglian Dingsen Equity Investment Fund Partnership (Sociedad Colectiva), Nanjing LvYong JinHang Equity Investment Management Partnership (Sociedad Colectiva), y Puhua (Hangzhou) Venture Capital Partnership (Sociedad Colectiva), un fondo de desarrollo para pequeñas y medianas empresas. Después de esta ronda de financiación, el capital registrado de Silicon Based Flow aumentó de aproximadamente 13.758.000 RMB...

Meta está probando un chip de su propia fabricación para entrenar sistemas de IA. Esta iniciativa forma parte de la estrategia de Meta para reducir su dependencia de fabricantes de hardware como Nvidia. Según Reuters, el chip, fabricado en colaboración con Taiwan Semiconductor Manufacturing Company (TSMC), está diseñado específicamente para cargas de trabajo de IA. Actualmente, Meta está realizando pruebas a pequeña escala y planea ampliar la producción si las pruebas tienen éxito. Nota de la imagen

AI21 Labs ha lanzado Jamba 1.6, una actualización que amplía significativamente la capacidad de procesamiento de textos largos y admite una variedad de idiomas. Esta mejora permite analizar y comprender documentos extensos con mayor precisión y eficiencia.