zh
红薯智语
每月不到10元,就可以无限制地访问最好的AIbase。立即成为会员
首页
AI资讯
AI日报
变现指南
AI教程
AI工具导航
AI产品库
zh
红薯智语
搜索全球AI产品动态
搜索全球AI信息,发现AI新机遇
新闻资讯
产品应用
变现案例
AI教程
类型 :
新闻资讯
产品应用
变现案例
AI教程
2024-08-15 10:40:39
.
AIbase
.
11.1k
Claude推出"提示缓存"功能 允许开发人员在API上缓存常用上下文
Anthropic公司宣布其Claude系列大型语言模型推出“提示缓存”新功能,旨在大幅降低企业AI成本并提升性能。该功能允许用户存储并重复使用特定上下文信息,无需额外成本或增加延迟。在公开测试中,Claude3.5Sonnet和Claude3Haiku模型将应用此功能,预期能带来高达90%的成本降低和某些场景下响应速度提高一倍的效果。此功能特别适用于需要保持一致上下文的商业AI应用,如长时间对话、大规模文档处理、代码辅助和复杂工具使用。尽管行业专家持谨慎态度,Anthropic表示将与客户合作,收集数据和反馈,以评估新功能的实际效果。此举有望降低中小企业采用AI技术的门槛,推动AI技术在商业领域的广泛应用。