Nvidia ha lanzado recientemente tres nuevos microservicios NIM (Nvidia Infrastructure Microservices) como extensión del kit de herramientas de código abierto NeMo Guardrails, con el objetivo de proporcionar un control de seguridad más preciso para las aplicaciones de agentes de IA empresariales.
Estos tres nuevos servicios tienen características únicas: el primero se centra en la seguridad del contenido, previniendo que la IA genere contenido dañino o sesgado; el segundo asegura que las conversaciones se mantengan dentro de los temas aprobados; y el tercero evita que los agentes de IA superen las restricciones del sistema o se "escapen". Al implementar estos modelos ligeros y especializados como barreras de seguridad, los desarrolladores pueden compensar las posibles brechas de protección de las políticas globales.
Esta medida refleja los desafíos reales en la implementación de la IA. Aunque el CEO de Salesforce, Marc Benioff, predijo que su plataforma tendría más de mil millones de agentes de IA en el próximo año, un estudio reciente de Deloitte muestra que la adopción empresarial es más cautelosa: se espera que solo el 25% de las empresas utilicen agentes de IA en 2025, y que esta proporción aumente al 50% en 2027.
Estos datos indican que las empresas mantienen una actitud cautelosa hacia la tecnología de agentes de IA, y la velocidad de adopción es claramente más lenta que el ritmo de innovación tecnológica. Los servicios de seguridad lanzados por Nvidia pretenden reducir las preocupaciones de las empresas sobre la adopción de agentes de IA al mejorar la seguridad y la controlabilidad.
Sin embargo, aún queda por ver si estas nuevas herramientas pueden acelerar eficazmente el proceso de implementación de la IA en las empresas.
