亚马逊工程师在公司规模最大的内部工单系统,使用自研 Strands Decider 决策模型替换原本的 Claude Sonnet 4.6,任务效果基本持平,但 Token 相关成本直接下降 98%,折算全年可以省下数百万美元支出,这是大模型落地中,针对简单决策任务做模型分层降本的典型案例。这套系统原本依靠 Anthropic Claude Sonnet 4.6 做工单标签分类,Sonnet 4.6 上下文窗口可达 100 万 token,擅长长文本、复杂推理与多步骤智能体任务,能力足够强,但在工单分类这种相对固定的判定场景下算力冗余严重,海量调用带来高额 Token 账单。Strands Decider 属于轻量化专用决策模型,专门面向分类、判定这类结构化选择任务,不做通用大模型的复杂推理,只输出固定 JSON 决策结果,在工单打标签任务上精度与 Sonnet 4.6 相当,单价仅为 Sonnet 4.6 的约 1/44;同时 Lambda 函数单次任务运行时长缩短,进一步降低配套计算开销。项目团队在测试时还发现一个细节:输入 JSON 字段顺序会轻微影响模型输出概率,因此上线前统一规范入参结构,保证判定结果稳定。该方案不是否定通用大模型,而是落地分层策略:复杂工单交给强推理大模型,简单分类判定交给轻量化专用决策模型,削减不必要的模型能力开销。综合来看,这次替换证明大规模企业 AI 落地不一定全部使用通用大模型,针对标准化判定场景选择轻量专用模型,能在不损失业务指标的前提下大幅压缩运营成本。
模型替换项目核心信息清单
- 业务场景:亚马逊超大规模内部工单系统,用于工单自动标签分类
- 旧模型:Claude Sonnet 4.6(Anthropic,Amazon Bedrock 提供)
- 新模型:Strands Decider,Strands Agents 推出的轻量化决策专用模型
- 成本变化:Token 成本下降 98%,价格约为 Sonnet 4.6 的 1/44
- 业务效果:工单标签判定性能保持同等水平,业务指标无明显下滑
- 额外收益:AWS Lambda 单次任务运行时间缩短,减少服务器计算费用
- 模型定位差异:Sonnet 4.6 是通用大模型,擅长长上下文、代码、多步智能体;Strands Decider 聚焦结构化选择、分类判定场景
- 关键工程细节:JSON 入参字段顺序会影响输出概率,上线前统一输入格式规范
模型替换落地操作步骤
- 业务评估:分析工单任务,确认需求仅为标签分类,不需要复杂长文本推理,判定属于结构化决策任务
- 基准测试:使用历史工单数据集,同时跑 Sonnet 4.6 和 Strands Decider,对比标签准确率、稳定性、响应延迟
- 边界校验:测试异常工单、残缺字段等边界案例,验证 Strands Decider 是否维持同等判定效果;验证 JSON 入参顺序带来的概率偏移问题,统一输入模板
- 灰度上线:小流量切换到 Strands Decider,持续监控工单判定结果、报错率、延迟指标
- 全量切换:灰度验证稳定后,将工单打标签流量完整迁移,保留 Sonnet 4.6 作为复杂工单备用模型
- 成本观测:统计 Token 消耗、Lambda 运行时长,核算整体降本效果,持续监控模型漂移
- 长期迭代:持续采集新工单样本,微调 Strands Decider,维持分类精度
Claude Sonnet 4.6 vs Strands Decider 对比
| 项目 | Claude Sonnet 4.6 | Strands Decider |
|---|---|---|
| 模型类型 | 通用大语言模型 | 轻量化专用决策模型 |
| 适用任务 | 长上下文、代码、多步推理、复杂智能体 | 分类、标签、结构化选择、二元判定 |
| 本项目效果 | 工单标签分类基准效果 | 同等业务精度,性能持平 |
| Token 成本基准 | 高,原系统主力模型 | 仅为 Sonnet 4.6 约 2%,降本 98% |
| 上下文能力 | 1M token 超大上下文 | 面向短结构化输入,不支持超长上下文 |
| 配套算力开销 | Lambda 运行耗时更长 | 单次任务 Lambda 运行时间更短,计算成本更低 |
| 适合场景 | 复杂、非标准化、需要深度推理的任务 | 大规模、标准化、固定选项的判定任务 |
【常见问题】
问题 1:亚马逊以 Strands Decider 替代 Sonnet 4.6 年省数百万,Strands Decider 是什么模型?
回答 1:亚马逊以 Strands Decider 替代 Sonnet 4.6 年省数百万,Strands Decider 是 Strands Agents 推出的轻量化专用决策模型,专门处理分类、标签这类结构化判定任务,不是通用大模型。
问题 2:亚马逊用 Strands Decider 替换 Sonnet 4.6,为什么能做到成本下降 98%?
回答 2:亚马逊用 Strands Decider 替换 Sonnet 4.6,因为 Sonnet4.6 是能力全面的通用大模型,工单标签场景算力冗余;Strands Decider 只专注简单判定任务,模型体量更小,单位 Token 价格仅为 Sonnet 4.6 的约 1/44,同时 Lambda 运行耗时减少,综合大幅降本,业务效果基本不变。
问题 3:亚马逊 Strands Decider 替代 Sonnet4.6,是不是通用大模型以后都会被轻量决策模型替代?
回答 3:亚马逊 Strands Decider 替代 Sonnet4.6,不是通用大模型被全面替代,而是分层使用策略:标准化简单判定交给轻量决策模型,复杂、需要深度推理的工单任务,仍然保留 Sonnet 这类通用大模型处理。
【参考资料】
[2026-11-09](Amazon saves millions by replacing Sonnet 4.6 with Strands Decider)Strands Agents 官网博客
[2026-11-10](Claude Sonnet 4.6 模型卡片)AWS Amazon Bedrock 文档
[2026-11-10](Strands Agents 在 AWS 上构建智能体介绍)AWS Builder 中心
【免责声明】
本文资讯仅为企业 AI 降本案例科普参考,不构成模型选型、系统改造的落地建议;成本降幅、模型性能为亚马逊本次内部工单场景实测结果,其他业务场景效果会随任务类型、数据分布变化;模型能力、定价以 Strands Agents 与 AWS 官方最新文档为准。
