标签：Batch API
共 5 篇文章。
-
LLM Batch JSONL 格式规范与陷阱
OpenAI 和 Anthropic Batch API 都要求 JSONL 输入文件，格式规范细节、custom_id 设计、编码陷阱一步错就整批任务失败，本文逐条拆解。
-
Batch 与实时调用的成本临界点：什么时候该切换
系统分析 LLM Batch API 与实时调用的成本临界点，给出延迟容忍度、调用量、场景类型三个维度的决策框架，帮你判断何时切换 Batch 真正合算。
-
Claude Message Batches 50% 折扣实战
深入解析 Claude Message Batches API 的 50% 费用折扣机制，结合真实场景给出成本优化策略与最大化节省的工程实践。
-
Batch API 真实省钱测算：从账单数据说起
通过真实账单案例，逐步测算 OpenAI 与 Anthropic Batch API 的省钱幅度，覆盖标注、翻译、分类等常见场景，给出判断是否值得切换的量化标准。
-
Anthropic Batch API 国内使用指南
详解 Anthropic Message Batches API 的原理、调用方式与国内中转接入方案，批量推理成本减半，效率翻倍。