微软已对一个组织采取法律行动,该组织被指控故意开发并使用工具绕过其云 AI 产品的安全护栏。根据微软去年12月向美国弗吉尼亚东区地方法院提起的诉讼,一群由10名未透露姓名的被告组成,涉嫌使用窃取的客户凭证和定制软件侵入 Azure OpenAI 服务。微软指控被告违反了《计算机欺诈和滥用法案》、《数字千年版权法案》和联邦敲诈勒索法,非法访问和使用微软的软件和服务器,目的是“创建攻击性”和“有害和非法内容”。微软没有提供有关所生成滥用内容的具体细节。该公司正在寻
随着人工智能技术的迅猛发展,许多公司纷纷推出各自的 “AI 代理” 系统,这些代理能够自主与环境互动,完成无需人类干预的任务。微软和 Anthropic 等公司已率先推出了自己的 AI 代理,而行业领导者 OpenAI 却迟迟未能发布自己的版本,这背后的原因令人深思。据《The Information》报道,OpenAI 的推迟与 “提示注入” 攻击有关。这种攻击方式可以诱使 AI 模型接受恶意方的指令。例如,当用户指派 AI 代理在线搜索和购买物品时,AI 可能无意中访问一个恶意网站,该网站可能会指示它忘记先前
Cohere 公司今日宣布推出其最新的 AI 平台 “North”,旨在为企业用户提供一个安全的工作空间,直接挑战微软的 C o p i l ot 和谷歌的 Vertex AI。Cohere 声称,这一新平台在金融、人力资源、客户支持和 IT 等多个领域的性能上优于这两大科技巨头。“North” 结合了大型语言模型、搜索能力和自动化工具,以一个安全的包装形式,让企业在保持对敏感数据控制的同时,能够高效地部署 AI 技术。该平台支持私有云环境或本地安装,特别针对金融和医疗等受监管行业进行设计。Cohere 的内部测试显示,
微软近日宣布了其新的 rStar-Math 技术,这一创新的推理方法可以应用于小型语言模型(SLMs),显著提升它们在数学问题上的表现,甚至在某些情况下超越 OpenAI 的 o1-preview 模型。这一技术目前仍处于研究阶段,相关研究论文已发布在 arXiv.org 上,由微软、北京大学和清华大学的八位作者共同完成。在测试中,rStar-Math 技术被应用于多个小型开源模型,包括微软的 Phi-3迷你模型、阿里巴巴的 Qwen-1.5B(15亿参数模型)和 Qwen-7B(70亿参数模型)。测试结果显示,所有参与的模型性能都有所提升,其中