标签：LLM 工程
共 2 篇文章。
-
LLM 应用压测方案：从指标设计到工具实现
讲清 LLM 应用压测和传统 Web 压测的本质区别，如何设计并发模型、选取核心指标，附 locust 实测脚本与常见误区。
-
上下文压缩 5 种策略对比：Token 节省与质量权衡
系统对比摘要压缩、滑动窗口、RAG 检索替换、结构化截断和 KV Cache 共享五种上下文压缩策略，含代码示例与成本对比。
共 2 篇文章。
讲清 LLM 应用压测和传统 Web 压测的本质区别，如何设计并发模型、选取核心指标，附 locust 实测脚本与常见误区。
系统对比摘要压缩、滑动窗口、RAG 检索替换、结构化截断和 KV Cache 共享五种上下文压缩策略，含代码示例与成本对比。