zh
AI产品榜
每月不到10元,就可以无限制地访问最好的AIbase。立即成为会员
首页
AI资讯
AI日报
变现指南
AI教程
AI工具导航
AI产品库
zh
AI产品榜
搜索全球AI产品动态
搜索全球AI信息,发现AI新机遇
新闻资讯
产品应用
变现案例
AI教程
类型 :
新闻资讯
产品应用
变现案例
AI教程
2024-11-01 09:54:32
.
AIbase
.
12.9k
Patronus AI推首个自助AI检测API,打破AI幻觉的魔咒
在人工智能迅速发展的今天,AI “幻觉” 现象愈加频繁,给许多企业带来了不小的困扰。客户服务聊天机器人自信地描述不存在的产品,金融 AI 编造市场数据,医疗机器人则提供危险的医疗建议。这些问题不再是单纯的趣事,而是正在影响公司声誉与盈利的重大隐患。为了应对这一挑战,位于旧金山的初创公司 Patronus AI 宣布推出全球首个自助服务平台,旨在实时检测和防止 AI 系统出现故障。这个平台就像是 AI 系统的 “拼写检查器”,可以在问题发生前将其捕捉到。Patronus AI 的首席执行
2024-03-07 03:52:56
.
AIbase
.
6.5k
人工智能模型评估公司指出GPT-4侵权问题严重 微软工程师担忧图像生成功能
["Patronus AI发布版权检测工具","OpenAI的GPT-4被指侵权问题最为严重","微软工程师指出AI图像生成工具可能对社会构成危险"]
2023-12-20 15:09:06
.
AIbase
.
4.4k
Patronus AI发现领先AI系统存在“令人担忧”的安全漏洞
["Patronus AI发布SimpleSafetyTests测试套件,揭示ChatGPT等AI系统存在关键安全漏洞。","测试覆盖自杀、儿童虐待和身体伤害等五个高优先级危害领域,揭示了11个LLMs中的严重弱点。","强调安全的系统提示可减少不安全响应,但结果显示生产系统可能需要额外的保障。","测试结果表明在处理真实世界应用之前,LLMs需要严格而定制的安全解决方案,通过基本测试是第一步。"]
2023-10-20 09:11:14
.
AIbase
.
2.3k
Patronus AI获300万美元A轮融资,针对企业级大模型安全需求
["Patronus AI是一家总部位于美国,专注于AI模型安全与治理的创业公司。","公司刚刚完成了300万美元A轮融资,由光速中国领投。","Patronus AI主要面向企业客户,提供AI模型安全评估、监控与增强平台。","该公司利用对抗生成网络,为企业客户提供AI模型的安全性评估服务。","Patronus AI表示,会利用本轮融资加快产品开发,扩大研发团队。"]