Claude近日宣布了一项革命性的API新功能——长文本缓存，此举旨在为用户提供更高效、成本更低的服务体验。
这项创新功能的核心优势在于，它允许Claude模型“记住”用户输入的长篇内容，这包括但不限于整本书籍、完整代码库或是大型文档。通过缓存这些信息，用户在后续的交互中无需重复输入，显著减少了数据处理时间和成本。
根据Claude官方提供的数据，启用长文本缓存功能后，处理速度可提升高达85%，而成本则可降低多达90%。这意味着，无论是进行深度对话、代码开发还是文档分析，用户都能体验到前所未有的快速响应。
此功能的应用场景广泛，尤其适用于以下领域：
- 对话代理：通过缓存长指令或文档，实现更流畅、成本更低的对话体验。
- 编码助手：缓存代码库，提高代码补全和问题解答的效率。
- 大型文档处理：快速嵌入和检索长格式材料，无需担心响应延迟。
目前，Claude 3.5 Sonnet和Claude 3 Haiku模型已支持这一功能，且Claude团队计划不久的将来将其扩展至更多模型。
用户若想体验这一功能，需遵循以下步骤：
- 确保拥有Claude API的访问权限。
- 选择支持长文本缓存功能的模型。
- 在API请求中启用缓存功能，定义要缓存的内容。
- 发送请求并开始使用缓存内容，简化后续操作。
Claude的这一创新举措，无疑将为长文本处理领域带来巨大的变革，助力用户在信息处理上实现效率和成本的双重优化。开发者们可以期待，这一新功能将为他们的工作流程带来革命性的改进。
