近日，Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能，旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战，提供了一系列实用的解决方案。其中，内容安全服务（Content Safety）可以在 AI 响应用户之前，对其内容进行审核，检测是否存在潜在的有害信息。这项服务有助于防止不当内容传播，确保用户得到安全和合适的信息。另外，主题控制服务（Topic Control）旨在确保聊天内容保持在预先设定的主题范围内。这意味着，聊天机器人能够

Nvidia近日发布三项新的NIM（Nvidia Infrastructure Microservices）微服务，作为NeMo Guardrails开源工具包的扩展，旨在为企业AI代理应用提供更精细的安全管控能力。这三项新服务各具特色:一是针对内容安全，防止AI生成有害或带有偏见的内容;二是确保对话限定在获批主题范围内;三是防止AI代理突破系统限制或越狱。通过部署这些轻量级专门模型作为安全护栏，开发者可以弥补全局政策可能存在的保护漏洞。此举反映了AI落地过程中的实际挑战。尽管Salesforce CEO马克·贝尼奥夫曾预测其平台未来一年内

英伟达近日宣布，其开源的BioNeMo™生物分子AI框架在制药领域获得广泛应用，吸引了大批制药公司、生物科技创新者和AI研究人员的关注。这一框架的推出，标志着AI辅助药物研发正式进入超算时代。作为一套专门面向生物分子研究的AI工具集，BioNeMo框架为制药行业带来了革命性突破。研究人员可以借助该框架大幅提升AI模型的运算规模，更高效地分析海量数据集，显著加快新药设计和开发进程。英伟达还推出了端到端的BioNeMo平台，将AI药物研发的全流程整合到一个统一的系统中。该平台包

英伟达开源了两款新型大模型Nemotron-4-Minitron-4B和Nemotron-4-Minitron-8B，采用结构化剪枝和知识蒸馏高效训练方法，显著降低训练需求，减少数据和算力消耗。与传统方法相比，新模型的训练token数据减少40倍，算力成本节省1.8倍。通过优化Llama-3.18B，结构化剪枝简化模型结构，知识蒸馏提升性能，Minitron-4B和Minitron-8B在MMLU上的评分提升16%，性能媲美Mistral7B等知名模型。这一开源举措展示了英伟达在AI领域的领导地位，并为AI社区提供了宝贵资源，推动AI技术向更高效、更智能方向发展。

["三位作者起诉 Nvidia 未经许可使用版权图书训练 NeMo AI 平台。","起诉指称作者作品成为约 196，640 本书的数据集的一部分。","作者声称其作品在 NeMo 训练后被撤下。","Nvidia 未就此案发表正式回应，案件或成 AI 领域版权重要先例。"]

["Nvidia NeMo项目展示了生成式AI在半导体芯片设计中的应用，通过内部数据训练大型语言模型，提高生产力。","研究突出了Nvidia NeMo在半导体领域提供定制化AI模型的潜力，为竞争带来优势。","Nvidia的定制大型语言模型ChipNeMo的应用范围包括聊天机器人、代码生成器和分析工具，为半导体设计提供全面提升。"]