A Nvidia lançou recentemente três novos microserviços NIM (Nvidia Infrastructure Microservices), como uma extensão do kit de ferramentas de código aberto NeMo Guardrails, com o objetivo de fornecer controle de segurança mais refinado para aplicativos de agentes de IA empresarial.
Esses três novos serviços têm características distintas: o primeiro visa a segurança do conteúdo, prevenindo a geração de conteúdo prejudicial ou tendencioso pela IA; o segundo garante que as conversas permaneçam dentro dos tópicos aprovados; e o terceiro impede que os agentes de IA ultrapassem as restrições do sistema ou "escapem". Ao implantar esses modelos leves e especializados como barreiras de segurança, os desenvolvedores podem compensar as possíveis falhas de proteção das políticas globais.
Essa iniciativa reflete os desafios reais na implementação da IA. Embora o CEO da Salesforce, Marc Benioff, tenha previsto que sua plataforma terá mais de 1 bilhão de agentes de IA no próximo ano, um estudo recente da Deloitte mostra que a adoção pelas empresas é mais cautelosa: espera-se que apenas 25% das empresas utilizem agentes de IA em 2025, aumentando para 50% em 2027.
Esses dados indicam que as empresas mantêm uma postura cautelosa em relação à tecnologia de agentes de IA, com a velocidade de adoção sendo significativamente mais lenta que o ritmo de inovação tecnológica. Os serviços de segurança lançados pela Nvidia pretendem reduzir as preocupações das empresas sobre a adoção de agentes de IA, reforçando a segurança e o controle.
No entanto, ainda resta saber se essas novas ferramentas serão eficazes na aceleração do processo de implementação da IA nas empresas.