近日,Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能,旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战,提供了一系列实用的解决方案。其中,内容安全服务(Content Safety)可以在 AI 响应用户之前,对其内容进行审核,检测是否存在潜在的有害信息。这项服务有助于防止不当内容传播,确保用户得到安全和合适的信息。另外,主题控制服务(Topic Control)旨在确保聊天内容保持在预先设定的主题范围内。这意味着,聊天机器人能够
Nvidia近日发布三项新的NIM(Nvidia Infrastructure Microservices)微服务,作为NeMo Guardrails开源工具包的扩展,旨在为企业AI代理应用提供更精细的安全管控能力。这三项新服务各具特色:一是针对内容安全,防止AI生成有害或带有偏见的内容;二是确保对话限定在获批主题范围内;三是防止AI代理突破系统限制或越狱。通过部署这些轻量级专门模型作为安全护栏,开发者可以弥补全局政策可能存在的保护漏洞。此举反映了AI落地过程中的实际挑战。尽管Salesforce CEO马克·贝尼奥夫曾预测其平台未来一年内
英伟达公司正在以色列北部建设一台功率达到30兆瓦的研究与开发超级计算机,预计投资额将达到5亿美元。这台超级计算机位于约克尼安伊利特附近的梅沃卡梅尔科技与工业园区,建筑面积达到10,000平方米,内部将搭载数百台最新一代的 Blackwell 液冷系统。虽然具体部署的加速器数量尚不明确,但以色列媒体报道称,这一配置预计将包含 “数千个” 图形处理单元(GPU),其性能将与以色列现有的 Israel-1超级计算机相媲美。Israel-1超级计算机由2,048个 H100加速器组成,采用英伟达的以太网
传统的大型语言模型(LLM)微调方法通常计算密集,且在处理多样化任务时显得静态。为了解决这些挑战,Sakana AI 推出了一种名为 Transformer² 的新型自适应框架。Transformer² 能够在推理过程中实时调整LLM的权重,使其能够适应各种未知的任务,就像章鱼一样灵活。Transformer² 的核心在于一个两阶段机制:第一阶段,一个调度系统会分析用户的查询,识别任务的属性。第二阶段,系统会动态混合多个“专家”向量。这些向量是使用强化学习训练出来的,每个向量都专注于特定类型的任务,从而