标签:缓存
共 2 篇文章。
-
LLM 应用缓存层设计:从语义缓存到 Prompt 缓存的完整方案
系统讲解 LLM 应用的缓存层架构,涵盖语义缓存、Prompt Caching、结果缓存三大策略,帮助降低 API 成本 60% 以上。
-
prompt caching 在国内中转下省成本指南
Anthropic 与 OpenAI prompt caching 机制对比,在 Cursor、Claude Code、Cline、Aider 真实工作流下的省成本实战。
共 2 篇文章。
系统讲解 LLM 应用的缓存层架构,涵盖语义缓存、Prompt Caching、结果缓存三大策略,帮助降低 API 成本 60% 以上。
Anthropic 与 OpenAI prompt caching 机制对比,在 Cursor、Claude Code、Cline、Aider 真实工作流下的省成本实战。