Red Hat ha lanzado recientemente la versión 1.3 de su plataforma de inteligencia artificial empresarial Linux, RHEL AI. Esta versión incluye compatibilidad con el modelo de lenguaje grande (LLM) IBM Granite y una vista previa del soporte para aceleradores Intel Gaudi3. Esta actualización ofrece nuevas oportunidades a los socios de servicios y a los integradores de sistemas de Red Hat, ayudando a las empresas a explorar e integrar aplicaciones de inteligencia artificial de manera más eficiente.
Joe Fernandes, vicepresidente y director general de la división de IA de Red Hat, afirmó que los socios de servicios y los integradores de sistemas juegan un papel crucial en ayudar a las empresas a implementar diferentes casos de uso. Señaló que la complejidad de la IA generativa permite a estos socios ofrecer soluciones más rentables a los clientes. Red Hat busca reducir los costos mediante el uso de modelos más pequeños, simplificar la complejidad de la integración de los modelos con los datos y los casos de uso del cliente, y ofrecer flexibilidad para implementar estos modelos en entornos híbridos.
La versión 1.3 de RHEL AI está diseñada para el desarrollo, las pruebas y la ejecución de modelos de IA generativa para aplicaciones empresariales. Esta actualización incluye soporte para el modelo de lenguaje grande IBM Granite, con licencia de código abierto, y utiliza tecnologías de código abierto para la preparación de datos. Los usuarios pueden utilizar los componentes para crear imágenes RHEL empaquetadas y listas para usar mediante el proyecto de alineación de modelos InstructLab, desarrollado conjuntamente con IBM, para la implementación en servidores individuales en la nube híbrida.
La nueva versión admite casos de uso en inglés para Granite 3.08b y ofrece una vista previa para desarrolladores que permite experimentar con las capacidades del modelo en idiomas distintos del inglés, generación de código y llamadas a funciones. Las versiones futuras incluirán soporte completo para estas funciones. Además, RHEL AI admite el proyecto de código abierto Docling de IBM Research, que convierte formatos de documentos comunes a Markdown, JSON, etc., para su uso en aplicaciones y entrenamiento de IA generativa. La nueva versión cuenta con capacidad de segmentación con conocimiento del contexto, teniendo en cuenta la estructura y los elementos semánticos del documento para mejorar la calidad de respuesta de la IA generativa.
Esta versión también incluye una vista previa tecnológica del soporte para aceleradores Intel Gaudi3, lo que permite a los usuarios procesar múltiples solicitudes en paralelo en el procesamiento en tiempo real y ajustar dinámicamente los parámetros del LLM durante el procesamiento. Las futuras versiones de RHEL AI ampliarán el soporte de Docling a más formatos de documentos, integrarán canalizaciones de generación de recuperación mejoradas y la función de ajuste de conocimientos de InstructLab.
Puntos clave:
🔹 RHEL AI 1.3 añade compatibilidad con el modelo de lenguaje grande IBM Granite, mejorando las capacidades de las aplicaciones empresariales.
🔹 La nueva versión ofrece una vista previa del soporte para aceleradores Intel Gaudi3, mejorando el procesamiento en tiempo real.
🔹 Red Hat se compromete a reducir el costo y la complejidad de los modelos de IA, impulsando implementaciones flexibles en la nube híbrida.
