您的位置首页 >人工智能 >

亚马逊内部工单系统替换模型,Strands Decider 替代 Claude Sonnet 4.6,每年节省数百万 Token 成本

亚马逊工程师在公司规模最大的内部工单系统,使用自研 Strands Decider 决策模型替换原本的 Claude Sonnet 4.6,任务效果基本持平,但 Token 相关成本直接下降 98%,折算全年可以省下数百万美元支出,这是大模型落地中,针对简单决策任务做模型分层降本的典型案例。这套系统原本依靠 Anthropic Claude Sonnet 4.6 做工单标签分类,Sonnet 4.6 上下文窗口可达 100 万 token,擅长长文本、复杂推理与多步骤智能体任务,能力足够强,但在工单分类这种相对固定的判定场景下算力冗余严重,海量调用带来高额 Token 账单。Strands Decider 属于轻量化专用决策模型,专门面向分类、判定这类结构化选择任务,不做通用大模型的复杂推理,只输出固定 JSON 决策结果,在工单打标签任务上精度与 Sonnet 4.6 相当,单价仅为 Sonnet 4.6 的约 1/44;同时 Lambda 函数单次任务运行时长缩短,进一步降低配套计算开销。项目团队在测试时还发现一个细节:输入 JSON 字段顺序会轻微影响模型输出概率,因此上线前统一规范入参结构,保证判定结果稳定。该方案不是否定通用大模型,而是落地分层策略:复杂工单交给强推理大模型,简单分类判定交给轻量化专用决策模型,削减不必要的模型能力开销。综合来看,这次替换证明大规模企业 AI 落地不一定全部使用通用大模型,针对标准化判定场景选择轻量专用模型,能在不损失业务指标的前提下大幅压缩运营成本。

模型替换项目核心信息清单

  • 业务场景:亚马逊超大规模内部工单系统,用于工单自动标签分类
  • 旧模型:Claude Sonnet 4.6(Anthropic,Amazon Bedrock 提供)
  • 新模型:Strands Decider,Strands Agents 推出的轻量化决策专用模型
  • 成本变化:Token 成本下降 98%,价格约为 Sonnet 4.6 的 1/44
  • 业务效果:工单标签判定性能保持同等水平,业务指标无明显下滑
  • 额外收益:AWS Lambda 单次任务运行时间缩短,减少服务器计算费用
  • 模型定位差异:Sonnet 4.6 是通用大模型,擅长长上下文、代码、多步智能体;Strands Decider 聚焦结构化选择、分类判定场景
  • 关键工程细节:JSON 入参字段顺序会影响输出概率,上线前统一输入格式规范

模型替换落地操作步骤

  1. 业务评估:分析工单任务,确认需求仅为标签分类,不需要复杂长文本推理,判定属于结构化决策任务
  2. 基准测试:使用历史工单数据集,同时跑 Sonnet 4.6 和 Strands Decider,对比标签准确率、稳定性、响应延迟
  3. 边界校验:测试异常工单、残缺字段等边界案例,验证 Strands Decider 是否维持同等判定效果;验证 JSON 入参顺序带来的概率偏移问题,统一输入模板
  4. 灰度上线:小流量切换到 Strands Decider,持续监控工单判定结果、报错率、延迟指标
  5. 全量切换:灰度验证稳定后,将工单打标签流量完整迁移,保留 Sonnet 4.6 作为复杂工单备用模型
  6. 成本观测:统计 Token 消耗、Lambda 运行时长,核算整体降本效果,持续监控模型漂移
  7. 长期迭代:持续采集新工单样本,微调 Strands Decider,维持分类精度

Claude Sonnet 4.6 vs Strands Decider 对比

项目Claude Sonnet 4.6Strands Decider
模型类型通用大语言模型轻量化专用决策模型
适用任务长上下文、代码、多步推理、复杂智能体分类、标签、结构化选择、二元判定
本项目效果工单标签分类基准效果同等业务精度,性能持平
Token 成本基准高,原系统主力模型仅为 Sonnet 4.6 约 2%,降本 98%
上下文能力1M token 超大上下文面向短结构化输入,不支持超长上下文
配套算力开销Lambda 运行耗时更长单次任务 Lambda 运行时间更短,计算成本更低
适合场景复杂、非标准化、需要深度推理的任务大规模、标准化、固定选项的判定任务

【常见问题】

问题 1:亚马逊以 Strands Decider 替代 Sonnet 4.6 年省数百万,Strands Decider 是什么模型?

回答 1:亚马逊以 Strands Decider 替代 Sonnet 4.6 年省数百万,Strands Decider 是 Strands Agents 推出的轻量化专用决策模型,专门处理分类、标签这类结构化判定任务,不是通用大模型。

问题 2:亚马逊用 Strands Decider 替换 Sonnet 4.6,为什么能做到成本下降 98%?

回答 2:亚马逊用 Strands Decider 替换 Sonnet 4.6,因为 Sonnet4.6 是能力全面的通用大模型,工单标签场景算力冗余;Strands Decider 只专注简单判定任务,模型体量更小,单位 Token 价格仅为 Sonnet 4.6 的约 1/44,同时 Lambda 运行耗时减少,综合大幅降本,业务效果基本不变。

问题 3:亚马逊 Strands Decider 替代 Sonnet4.6,是不是通用大模型以后都会被轻量决策模型替代?

回答 3:亚马逊 Strands Decider 替代 Sonnet4.6,不是通用大模型被全面替代,而是分层使用策略:标准化简单判定交给轻量决策模型,复杂、需要深度推理的工单任务,仍然保留 Sonnet 这类通用大模型处理。

【参考资料】

[2026-11-09](Amazon saves millions by replacing Sonnet 4.6 with Strands Decider)Strands Agents 官网博客

[2026-11-10](Claude Sonnet 4.6 模型卡片)AWS Amazon Bedrock 文档

[2026-11-10](Strands Agents 在 AWS 上构建智能体介绍)AWS Builder 中心

【免责声明】

本文资讯仅为企业 AI 降本案例科普参考,不构成模型选型、系统改造的落地建议;成本降幅、模型性能为亚马逊本次内部工单场景实测结果,其他业务场景效果会随任务类型、数据分布变化;模型能力、定价以 Strands Agents 与 AWS 官方最新文档为准。

今日大家都在搜的词: