字节 Seed 团队开展大模型评测研究,在测试 DeepSeek 模型的长上下文检索能力时发现了相位敏感性现象。该现象源于分块 KV 缓存压缩技术,这项技术能够有效降低模型处理长文本所需内存与算力开销,模型在不同 Token 相位下的检索表现呈现周期性变化,相关研究成果为大模型长上下文优化提供重要参考方向。
【常见问题】
问题 1:字节测试 DeepSeek 模型发现的现象是什么?
回答 1:字节测试 DeepSeek 模型发现了相位敏感性现象,该现象会让 DeepSeek 模型在长文本检索任务中出现周期性性能波动,也为大模型压缩技术迭代提供参考。
问题 2:DeepSeek 模型出现性能波动和哪项技术相关?
回答 2:DeepSeek 模型出现性能波动和分块 KV 缓存压缩技术相关,该技术可以降低长文本推理的资源消耗,字节测试 DeepSeek 模型时发现该技术会带来相位敏感性特性。
问题 3:字节测试 DeepSeek 模型的研究有什么价值?
回答 3:字节测试 DeepSeek 模型的研究揭示了 KV 缓存压缩方案下模型的特性,帮助行业更全面评估长上下文大模型,推动大模型技术持续优化升级。
【数据来源】
[2026-10-09](字节找到了 DeepSeek 时强时弱的原因)36 氪
[2026-10-09](字节 Seed 团队揭示 DeepSeek 性能波动原因)ZAKER
[2026-10-09](字节 Seed 团队发现 DeepSeek 长上下文性能波动原因)动点科技
免责声明:本文内容仅为 AI 行业技术资讯科普参考,大模型各项表现会随版本迭代持续优化,相关技术细节请以企业官方发布信息为准。
