近日,Nvidia 宣布在其 NeMo Guardrails 平台上新增三项安全功能,旨在帮助企业更好地管理和控制 AI 聊天机器人。这些微服务专门针对 AI 安全和内容审核中的常见挑战,提供了一系列实用的解决方案。其中,内容安全服务(Content Safety)可以在 AI 响应用户之前,对其内容进行审核,检测是否存在潜在的有害信息。这项服务有助于防止不当内容传播,确保用户得到安全和合适的信息。另外,主题控制服务(Topic Control)旨在确保聊天内容保持在预先设定的主题范围内。这意味着,聊天机器人能够
Nvidia近日发布三项新的NIM(Nvidia Infrastructure Microservices)微服务,作为NeMo Guardrails开源工具包的扩展,旨在为企业AI代理应用提供更精细的安全管控能力。这三项新服务各具特色:一是针对内容安全,防止AI生成有害或带有偏见的内容;二是确保对话限定在获批主题范围内;三是防止AI代理突破系统限制或越狱。通过部署这些轻量级专门模型作为安全护栏,开发者可以弥补全局政策可能存在的保护漏洞。此举反映了AI落地过程中的实际挑战。尽管Salesforce CEO马克·贝尼奥夫曾预测其平台未来一年内
英伟达公司正在以色列北部建设一台功率达到30兆瓦的研究与开发超级计算机,预计投资额将达到5亿美元。这台超级计算机位于约克尼安伊利特附近的梅沃卡梅尔科技与工业园区,建筑面积达到10,000平方米,内部将搭载数百台最新一代的 Blackwell 液冷系统。虽然具体部署的加速器数量尚不明确,但以色列媒体报道称,这一配置预计将包含 “数千个” 图形处理单元(GPU),其性能将与以色列现有的 Israel-1超级计算机相媲美。Israel-1超级计算机由2,048个 H100加速器组成,采用英伟达的以太网
近日,OpenAI 与纽约时报之间的版权侵权诉讼在美国联邦法院开庭。此案引发广泛关注,因为它不仅涉及两大知名机构,还可能对整个数字媒体生态系统产生深远影响。法庭上,OpenAI 及其主要投资者微软提出了驳回诉讼的动议,而纽约时报及其他原告则指控 OpenAI 和微软在未获得许可的情况下使用其内容来训练大型语言模型(LLM),并利用这些模型来与原告竞争,影响其网站流量和收入。纽约时报的律师在法庭上指出,OpenAI 在训练其模型时,可能直接复制了多篇新闻报道,有时甚至在回答