首页
科技要闻
互联网
手机
家电
机器人
5G/通信
数码
人工智能
硬件
IT
资讯
业界
科技金融
企业动态
半导体
iOS
Android
Mac
标签 >
还在苦恼「长上下文」?Agent直接上手缩KV缓存
长上下文难题新解法Agent 自主完成 KV 缓存裁剪压缩
长上下文场景下,Agent 多轮调用工具、持续推理,KV 缓存会跟着推理轨迹持续膨胀,占用大量显存、拉高读取带宽和推理成本,现在有一类新
2026-11-17 18:26:17