更新于

Claude Opus 4.7 百万 Token 上下文实战测试报告


Claude Opus 4.7 把上下文窗口扩展到了 100 万 Token(约 75 万英文单词,或 50 万中文字符)。这个数字足够塞进一个中型 Java 项目的全部源码,或者几百份 PDF 文档。但”能放进去”和”真的有用”是两回事——本文是我们对 Claude Opus 4.7 百万上下文能力的真实测试记录,包含具体场景、测试数据和成本分析。

声明:以下测试基于公开 API 进行,数字为近似估算,仅作参考。具体性能因 prompt 写法和任务类型有所浮动。

一、为什么百万 Token 上下文是个里程碑

在此之前,LLM 的上下文限制逼着开发者做各种折中:RAG(检索增强生成)、摘要链、滑动窗口……这些方法本质上都是”弥补上下文不够”的工程手段,引入了额外的复杂度和信息丢失。

100 万 Token 意味着:

  • 整个代码库装进单次对话:5–10 万行代码通常在 1M token 内;
  • 无损文档理解:数百页的合同、法规、技术规范,不需要切片;
  • 跨文件推理:不再需要 RAG 拼接,模型直接看到全部上下文的关系。

当然,这个能力的代价是显著的——后文有成本分析。

二、测试场景设计

我们设计了四个典型场景来评估 1M 上下文的实际价值:

场景输入规模核心问题
A:代码库全局理解约 250K token(8 万行 Go 代码)找到指定功能的所有调用链
B:长文档问答约 400K token(500 页 PDF → 文本)回答跨章节的细节问题
C:多合同对比分析约 150K token(30 份合同)找出条款差异和风险点
D:大型 Prompt 日志分析约 600K token(1 周 API 调用日志)发现异常调用模式

三、测试结果详述

3.1 场景 A:代码库全局理解

测试内容:将一个 8 万行 Go 微服务项目(约 250K token)全部放入上下文,询问”用户鉴权失败时,错误会经过哪些层,最终如何返回给客户端”。

结果

Opus 4.7 正确追踪了从 HTTP Handler → Middleware → AuthService → UserRepository 的完整调用链,并准确指出三处错误处理存在不一致——两处返回了 HTTP 403,一处返回了 HTTP 401,而设计文档要求统一用 401。这个不一致点之前人工 Code Review 漏掉了。

响应时间:约 45 秒(首 token 出现),完整响应约 2 分 30 秒。

与 RAG 方案对比:同样的问题用 RAG(先向量化,再检索相关文件,再让模型分析)大约需要 3–5 次往返,总耗时相似,但 RAG 方案遗漏了两个间接调用层,全上下文方案更完整。

3.2 场景 B:长文档问答

测试内容:将 500 页的《某省数据安全管理办法(草案)》转成文本(约 400K token),询问”第三方数据处理者在哪些情况下需要单独获取用户授权,和 GDPR 的要求有何异同”。

结果

模型准确引用了第 23 条、第 41 条的具体条文,并给出了与 GDPR Art. 28 的对比分析。没有产生明显的幻觉(我们有专人核对条文)。

关键发现:当问题跨度在文档前 1/3 和后 1/3 时,Opus 4.7 的准确率略有下降,但仍优于切片 + RAG 方案,因为后者在跨段落推理时会出现上下文断裂。

3.3 场景 C:多合同对比分析

测试内容:30 份不同供应商的采购合同(约 150K token),找出违约金条款的差异,输出结构化对比表。

结果

Opus 4.7 在 90 秒内输出了一张 30 行的对比表,准确率约 93%(2 处细节有偏差)。在此之前,法务团队人工对比同样的 30 份合同花了约 4 小时。

这个场景是目前性价比最高的长上下文用例——合同文档的查阅和比较是纯信息抽取任务,模型几乎不需要”推理”,只需要”记住”。

3.4 场景 D:日志分析

测试内容:600K token 的 API 调用日志(约 1 周的 LLM API 请求记录),找出异常模式(如某个 user_id 的失败率异常高、某个 endpoint 的延迟突增时段)。

结果:这是所有场景里效果最差的。模型能发现宏观趋势,但对于具体数字的汇总计算不可靠(如”user_id=12345 的失败率”),经常给出与实际不符的数字。

结论:超大规模数值日志分析不是 LLM 的强项,即便上下文足够大。这类任务应该用数据库查询 + 可视化工具,而不是让模型在 1M token 里”数豆子”。

四、性能特征总结

指标实测数据(近似)
100K token 输入首 token 延迟8–15 秒
500K token 输入首 token 延迟25–50 秒
1M token 输入首 token 延迟60–120 秒
”大海捞针”准确率(50K 文档中找特定句子)>95%
“大海捞针”准确率(500K 文档中找特定句子)~88%

“Needle-in-a-haystack”(大海捞针)测试显示,在 500K token 规模下,准确率会出现约 10% 的下滑,主要集中在文档中间部分(俗称”中间迷失”现象)。1M token 的极端场景下这一问题更明显,建议将最重要的信息放在 prompt 开头或结尾。

五、成本分析

Claude Opus 4.7 的定价(参考公开价格,仅作估算):

输入:约 $15 / 1M token
输出:约 $75 / 1M token

不同场景的单次调用成本估算:

场景输入 Token输出 Token单次成本(估算)
代码库分析(250K)250K2K~$3.9
长文档问答(400K)400K1K~$6.1
合同对比(150K)150K5K~$2.6
日志分析(600K)600K3K~$9.2

关键判断:单次 $3–$10 的调用,在以下情况下是合理的:

  • 替代了数小时人工工作(如法务合同审查);
  • 用在高价值决策支持上(代码架构审查);
  • 频率低(不是每秒都触发的实时系统)。

不适合的场景:高频、实时、成本敏感的系统——这类用 Claude Haiku 或开源模型更合适。

六、与 Claude Sonnet 4.6 的对比

很多用户问:长上下文任务一定要用 Opus 4.7 吗?

不一定。在我们的测试里,对于代码库查询类任务,Claude Sonnet 4.6 在约 200K token 内的表现与 Opus 4.7 相差不大,但价格约为 Opus 的 1/5。

维度Claude Sonnet 4.6Claude Opus 4.7
最大上下文200K token1M token
复杂推理质量良好优秀
长文档深度理解中等优秀
价格比~5×

经验性建议:先用 Sonnet 4.6,如果发现推理质量不够或文档超出 200K,再升级到 Opus 4.7。

关于这两者的详细对比,可以参考Claude Sonnet 4.6 vs Opus 4.7 深度横评

七、使用建议

  1. 优先使用 Prompt Caching:如果同一个大文档要反复查询,开启 Claude 的 Prompt Caching 功能,缓存命中后成本降低 90%。
  2. 重要信息放两端:避免把关键内容放在 500K token 处,利用”首位效应”和”近因效应”。
  3. 不要用 LLM 做数值计算:超大日志的统计汇总交给数据库,不要依赖模型记忆。
  4. 批量任务用 Batch API:多份文档分析不需要实时,用 Anthropic Batch API 可以节省 50% 成本。

八、相关阅读

通过 API 中转访问 Claude Opus 4.7 的 1M 上下文无需境外支付账户,YoTradeApi 支持 Anthropic 最新模型,按量计费无最低消费。