A Red Hat lançou recentemente a versão 1.3 de sua plataforma de IA empresarial Linux, RHEL AI. Esta versão inclui suporte ao modelo de linguagem grande (LLM) IBM Granite e um preview do suporte ao acelerador Intel Gaudi3. Esta atualização oferece novas oportunidades para parceiros de serviços e integradores de sistemas da Red Hat, ajudando as empresas a explorar e integrar aplicativos de IA de forma mais eficiente.
Joe Fernandes, vice-presidente e gerente geral da divisão de IA da Red Hat, afirmou que os parceiros de serviços e integradores de sistemas desempenham um papel crucial em ajudar as empresas a implementar diferentes casos de uso. Ele destacou que a complexidade da IA generativa permite que esses parceiros ofereçam soluções mais econômicas para os clientes. A Red Hat visa reduzir custos usando modelos menores, simplificar a complexidade da integração de modelos com dados e casos de uso do cliente e fornecer flexibilidade para implantar esses modelos em ambientes híbridos.
A versão RHEL AI 1.3 foi projetada para o desenvolvimento, teste e execução de modelos de IA generativa para aplicativos empresariais. Esta atualização inclui suporte ao modelo de linguagem grande IBM Granite, licenciado como open source, e também utiliza tecnologias open source para preparação de dados. Os usuários podem criar imagens RHEL empacotadas e inicializáveis para implantação em servidores individuais em nuvem híbrida usando os componentes do projeto de alinhamento de modelos InstructLab, desenvolvido em conjunto com a IBM.
A nova versão suporta casos de uso em inglês do Granite 3.08b e oferece uma prévia para desenvolvedores, permitindo que experimentem as capacidades do modelo em idiomas diferentes do inglês, geração de código e chamadas de função. O suporte completo para esses recursos estará disponível em versões futuras. Além disso, o RHEL AI suporta o projeto open source Docling do IBM Research, que converte formatos de documentos comuns para Markdown, JSON e outros, para uso em aplicativos e treinamento de IA generativa. A nova versão possui capacidade de segmentação com reconhecimento de contexto, considerando a estrutura e os elementos semânticos do documento, visando melhorar a qualidade da resposta da IA generativa.
Esta versão também adiciona suporte em versão prévia para o acelerador Intel Gaudi3, permitindo que os usuários processem vários pedidos em paralelo em tempo real e ajustem dinamicamente os parâmetros do LLM durante o processamento. Versões futuras do RHEL AI adicionarão suporte para mais formatos de documentos do Docling, integrarão pipelines aprimorados de recuperação e geração e recursos de ajuste de conhecimento do InstructLab.
Destaques:
🔹 O RHEL AI 1.3 adiciona suporte ao modelo de linguagem grande IBM Granite, melhorando a capacidade de aplicativos empresariais.
🔹 A nova versão oferece uma prévia do suporte ao acelerador Intel Gaudi3, aprimorando o processamento em tempo real.
🔹 A Red Hat se compromete a reduzir os custos e a complexidade dos modelos de IA, promovendo implantações flexíveis em nuvem híbrida.
