标签:Prompt 工程
共 3 篇文章。
-
Gemini Context Caching 成本优化
系统讲解 Gemini Context Caching 的隐式与显式缓存选择、稳定 prompt 前缀设计、TTL 盈亏计算、不可变版本管理、租户隔离和 token 加权命中率监控,并通过缓存键、复用阈值与对照实验说明如何验证真实收益,避免因低复用、频繁换版或过长存储周期让成本优化适得其反。
-
OpenAI Prompt Object 版本管理实战
详解 OpenAI 平台原生 Prompt Object 的版本管理机制:如何创建、发版、回滚,以及在 Responses API 中通过 id + version 引用,附中转环境兼容性排查。
-
LLM stop token 设计完全指南:从训练机制到业务场景选词
讲解 LLM stop token 的底层机制、训练时特殊 token 与推理时自定义停止词的区别,以及针对结构化输出、多轮对话、工具调用等场景的选词方法论。