标签:性能优化
共 4 篇文章。
-
各家 LLM token 计数库对比与选型
tiktoken、anthropic-tokenizer、google-generativeai、transformers 四大 token 计数库横向对比:精度、速度、中文支持与工程集成指南。
-
LLM 并行函数调用实战
跨模型(Claude/GPT/Gemini)并行函数调用的工程实践:依赖图设计、扇出查询模式、部分失败处理与生产环境性能优化,含完整代码。
-
降低 LLM 延迟的 10 种实战方法
AI 应用 TTFB 与总耗时优化全攻略:模型选择、prompt 精简、缓存、并行、预热、流式、就近接入、抢答策略实测。
-
Claude 并行 Tool Use 实战:一次调用多个工具
Claude 模型的并行 tool_use(同一回合内多个工具调用)原理、配置、性能优势与典型应用场景,含 Python 实战代码。