Anthropic公司宣布其Claude系列大型语言模型推出“提示缓存”新功能，旨在大幅降低企业AI成本并提升性能。该功能允许用户存储并重复使用特定上下文信息，无需额外成本或增加延迟。在公开测试中，Claude3.5Sonnet和Claude3Haiku模型将应用此功能，预期能带来高达90%的成本降低和某些场景下响应速度提高一倍的效果。此功能特别适用于需要保持一致上下文的商业AI应用，如长时间对话、大规模文档处理、代码辅助和复杂工具使用。尽管行业专家持谨慎态度，Anthropic表示将与客户合作，收集数据和反馈，以评估新功能的实际效果。此举有望降低中小企业采用AI技术的门槛，推动AI技术在商业领域的广泛应用。

Anthropic API新增提示缓存功能，旨在优化Claude模型的使用体验。该功能允许用户在API调用间缓存常用上下文信息，显著降低长提示成本与延迟，最高可达90%和85%。目前支持Claude3.5Sonnet和Claude3Haiku的公开测试版，未来将扩展至Claude3Opus。适用于对话代理、编码助手、处理大型文档及代理搜索等场景。提示缓存定价根据缓存输入令牌数量和使用频率，写入缓存成本比基本输入令牌高25%，使用缓存内容成本仅为10%。Notion已集成此功能，优化了内部运营与用户体验。