近日，Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能，旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战，提供了一系列实用的解决方案。其中，内容安全服务（Content Safety）可以在 AI 响应用户之前，对其内容进行审核，检测是否存在潜在的有害信息。这项服务有助于防止不当内容传播，确保用户得到安全和合适的信息。另外，主题控制服务（Topic Control）旨在确保聊天内容保持在预先设定的主题范围内。这意味着，聊天机器人能够

Nvidia近日发布三项新的NIM（Nvidia Infrastructure Microservices）微服务，作为NeMo Guardrails开源工具包的扩展，旨在为企业AI代理应用提供更精细的安全管控能力。这三项新服务各具特色:一是针对内容安全，防止AI生成有害或带有偏见的内容;二是确保对话限定在获批主题范围内;三是防止AI代理突破系统限制或越狱。通过部署这些轻量级专门模型作为安全护栏，开发者可以弥补全局政策可能存在的保护漏洞。此举反映了AI落地过程中的实际挑战。尽管Salesforce CEO马克·贝尼奥夫曾预测其平台未来一年内