微软、OpenAI等联合投1000万美元增强生成式AI安全

据钛媒体报道,小红书即将接入 DeepSeek-R1开源模型,其AI搜索产品“点点”App将推出”深度思考“功能。据悉,这一新功能目前正处于内测阶段。随着 ChatGPT 的流行,小红书开始深入参与生成式 AI 的发展,推出了独立的 AI 搜索应用 “点点”。“点点” 定位为生活搜索助手,覆盖了交通、美食、旅游等多个场景,旨在为用户提供及时的信息和真实的反馈,帮助他们解决日常问题。除了 “点点”,小红书还在内测其他搜索功能,如 搜索智能助手“搜搜薯” 和 AI 搜索对话助手 “达芬奇” 等
据国外媒体报道,知情人士透露微软工程师团队正加速部署服务器资源,为OpenAI即将推出的GPT-4.5和GPT-5模型做技术储备。尽管OpenAI CEO山姆·阿尔特曼(Sam Altman)近期确认GPT-4.5将在几周内亮相,但微软内部预计最快下周即可完成新模型的托管部署,这一动作暗示着生成式AI领域的技术竞赛已进入冲刺阶段。代号为Orion的GPT-4.5被视作当前技术路线的“收官之作”。虽然OpenAI未公开其具体性能参数,但内部测试显示,该模型在多模态任务处理和上下文连贯性上较前代有显著提升。值得注意的是,
AI 安全公司 Adversa AI 发布了一项令人震惊的报告,称埃隆・马斯克的创业公司 xAI 刚发布的 Grok3模型在网络安全方面存在重大漏洞。Adversa 的研究团队发现,这款最新的 AI 模型容易受到 “简单的越狱攻击”,这可能使不法分子能够获取诸如 “如何诱骗儿童、处理尸体、提取 DMT 以及制造炸弹” 等敏感信息。更糟糕的是,Adversa 的首席执行官兼联合创始人亚历克斯・波利亚科夫表示,这次漏洞不仅仅是越狱攻击那么简单,他们还发现了一种新的 “提示泄露” 缺陷,暴露了 Grok 模型的完整系
Meta 公司近日宣布,将于4月29日举行首届 LlamaCon 开发者大会,专注于其 Llama 系列生成式 AI 模型的最新进展。这一大会旨在为开发者提供一个平台,分享开源 AI 的最新成果,帮助他们更好地构建应用和产品。随着生成式 AI 技术的迅猛发展,Meta 希望通过此次大会进一步推动其生态系统的建设。在这场即将到来的大会上,Meta 计划展示多项与 Llama 模型相关的新功能和技术进展。Llama 模型自推出以来下载量已达数亿次,已经吸引了至少25个合作伙伴进行托管,显示出其在行业中的广泛应用。Met