快科技9月10日消息，寒武纪今日宣布已基于vLLM推理框架完成对DeepSeek最新开源模型V4.1Flash的Day0适配。
这意味着DeepSeekV4.1Flash发布当天即可在寒武纪芯片上稳定运行。DeepSeekV4.1Flash是DeepSeek全新模型结构系列中尺寸最小的一款，总参数552B的MoE模型。官方称其成本显著低于已知同尺寸模型。值得关注的是，V4.1Flash在KV缓存压缩上实现了重大突破。寒武纪此次快速适配的背后，是NeuWare软件生态的长期积累。就在两天前的9月8日，寒武纪正式加入PyTorch基金会，成为最高级别的白金成员，将在基金会管理委员会拥有一个席位。截至目前，寒武纪已完成GLM、DeepSeek、Qwen、Kimi、MiniMax五大国产主流大模型的推理适配，分别对应智谱、深度求索、阿里、月之暗面、MiniMax五家模型厂商。
这条信息对你有帮助吗？