法国人工智能初创公司 Mistral AI 近日正式推出了一款全新的内容审核 API,旨在与 OpenAI 及其他行业领军者展开竞争,同时应对日益增长的 AI 安全与内容过滤问题。这项服务基于 Mistral 的 Ministral8B 模型,经过精细调优,能够在九个不同类别中检测潜在的有害内容,包括色情内容、仇恨言论、暴力行为、危险活动以及个人可识别信息等。该 API 同时具备对原始文本和对话内容的分析能力。Mistral AI 在发布会上强调,“安全性在使 AI 变得有用方面扮演着关键角色。” 他们认为,系统级的安全防
为了帮助企业用户有效使用复杂的 Gov.UK 网站,英国政府近日推出了一款基于 GPT-4o 技术的人工智能聊天机器人。这款聊天机器人旨在引导用户浏览超过70万页的政府信息,但初步测试结果显示其表现不一。在这项实验性服务的测试阶段,政府计划邀请多达15,000名企业用户进行试用,预计在明年能够更广泛推广。使用前,机器人会提醒用户其主要局限性之一,即 “幻觉” 问题。这个问题是指 AI 有时会生成虚假信息并自信地呈现出来。尽管如此,聊天机器人还提供了链接以供用户核实其提
最近,加州州长加文・纽森否决了一项备受争议的AI安全法案,引发了科技界和政界的热议,也为AI监管的未来走向投下了一记重磅炸弹。这项由民主党州参议员斯科特・维纳提出的法案,原本旨在为迅猛发展的AI技术设立安全guardrails。它要求对开发成本超过1亿美元或需要特定计算能力的先进AI模型进行安全测试,并要求开发者提供"关闭开关"。此外,该法案还计划建立一个州级机构,专门监督"前沿模型"的开发。图源备注:图片由AI生成,图片授权服务商Midjourney然而,纽森认为这项法案过
美国、英国和欧盟共同签署了首个具有法律约束力的人工智能条约《人工智能框架公约》,旨在确保人工智能应用符合人权、民主和法治原则。条约要求签署国遵循保护用户数据、尊重法律及透明操作等原则,并通过立法、行政等措施予以实施。虽然条约的合规性主要依赖监测,执行力度可能较弱,但该条约被视为各国制定AI法律的重要蓝图。目前,美国、欧盟、英国及若干其他国家已签署,条约将在五个签署国批准后正式生效。此举体现了对AI发展与现有法律体系融合的重视,力求在AI崛起时维护高标准,防止其削弱原有标准。