FlashStates 重构混合状态缓存,混合架构模型跑 Agent 预填充吞吐最高提升 3 倍

FlashStates 推出全新混合状态缓存方案,专门面向混合架构大模型的 Agent 推理场景优化,在编码 Agent 测试负载下对比 vLLM 基线,G