这个题不能只讲 “开放指令集很性感”，得把 AI 芯片真正卡脖子的地方拆开：矩阵算力、软件栈、IP 成熟度、先进封装、客户迁移成本。我先查 2026 年 RISC-V 矩阵扩展、代表性芯片和国内落地进展，再判断 “革命” 与 “踩坑” 的边界。
联网核实完成：2026 年确实是 RISC-V 高性能计算的 “落地年”，RVA23.1 已于 10 月 20 日获批，玄铁 C950 用 64 核跑 Qwen3.8-27B 达到 30+ token/s，进迭时空 K3 已量产、V100 服务器芯片已发布；但矩阵扩展 IME 批准时间已滑到 2027 年一季度，软件栈仍是最大短板。以下按你的模板成文。
标题：RISC-V 做 AI 芯片：2026 年是革命前夜，还是踩坑现场？
先把答案给出来：2026 年 RISC-V 做 AI 芯片，已经不是 “能不能做” 的问题，而是 “做什么、怎么做才不会踩坑”。今年 RVA23.1 在 10 月 20 日获批，玄铁 C950 用 64 核目标配置跑 Qwen3.8-27B，达到 30+ token/s，不靠独立 GPU/NPU；进迭时空 K3 量产、V100 服务器芯片发布；但矩阵扩展 IME 的批准时间已滑到 2027 年一季度，AME、VME 还在标准化路上，软件栈、算子库、编译器、可靠性仍是三道坎。翻译成一句话：RISC-V 在 AI 芯片上是结构性机会，不是全面替代；做端侧、机器人、私有化推理、Agent 主机是革命，照搬 “替代 NVIDIA 训练卡” 那一套就是踩坑。
一、先分清 RISC-V 在 AI 芯片里演什么角色
| 角色 | RISC-V 能不能做 | 典型场景 | 关键限制 |
|---|---|---|---|
| 主控 CPU | 能 | AI 服务器 / 加速卡的管理、调度、IO | 不决定矩阵算力 |
| 通用 AI CPU | 能 | 端侧推理、边缘计算、Agent 主机 | 峰值算力不如专用 NPU/GPU |
| NPU/GPU 的控制核 | 能 | 自动驾驶、机器人、智能网卡 | 控制核强不等于算力强 |
| 训练加速器 | 不能只靠 ISA | 大模型预训练 | 需要 GPU/NPU 矩阵阵列、HBM、软件栈 |
| 端侧 SoC | 能 | 机器人、AI PC、智能终端 | 功耗、内存、工具链 |
RISC-V 是 CPU 指令集，不是 GPU。它可以把 “通用计算 + 矩阵 / 向量扩展” 做得很好，也可以当 GPU/NPU 旁边的控制核；但要把 NVIDIA 的训练卡直接换掉，靠的不是开放指令集，而是算力阵列、内存带宽和 CUDA 级软件生态。
二、2026 年为什么是分水岭
| 时间 | 事件 | 意义 |
|---|---|---|
| 2026-05-06 | RISC-V Server Platform 1.0 获批 | 数据中心有了可依赖的平台规范 |
| 2026-10-20 | RVA23.1、RVB23.1 获批 | 64 位应用处理器有了统一基线 |
| 2026-10 | 玄铁 C950 跑 Qwen3.8-27B 达 30+ token/s | CPU 不靠 GPU/NPU 也能跑大模型 |
| 2026-10-19/20 | RISC-V 中国峰会：V100、LX500、SRM31、珠峰 200 亮相 | 高性能芯片从 demo 进入机房 |
| 2026 全年 | 进迭时空 K3 量产、拿海内外订单 | 端侧 AI 芯片开始商业交付 |
| 2026-11 | IME 冻结但批准滑到 2027 Q1 | 矩阵标准仍在追赶 |
RVA23 把 RVV 1.0 向量扩展变成应用处理器的必选项，Linux、Android、商业发行版有了共同基线；服务器规范补上了 RAS、IOMMU、虚拟化这些 “进机房” 的前提。2026 年之前，很多 RISC-V AI 芯片还是 “PPT 芯片”；2026 年之后，至少头部厂商能拿出流片、点亮、量产、进机房的产品。
三、革命派看到了什么
| 机会 | 具体表现 | 为什么成立 |
|---|---|---|
| 新品类 | 机器人、端侧 AI、Agent 主机、私有化推理 | x86/Arm 的软件栈还没固化，有重新设计空间 |
| 软硬协同 | C950 把量化、矩阵指令、片上内存、带宽、kernel 一起设计 | 大模型推理瓶颈在数据搬运，不是单纯堆算力 |
| 定制扩展 | 矩阵、向量、低精度、稀疏 | 开放 ISA 允许按负载裁剪 |
| 成本与自主 | 无指令集授权费、可选择 IP / 代工 | 对特定市场有吸引力 |
| 生态借力 | CUDA/ROCm 可在 RISC-V 主机上跑 | RISC-V 先当 host，不必立刻替代 GPU |
玄铁 C950 的 30+ token/s 不是 “跑分魔术”：它用 64 核目标配置、约 400GB/s 内存带宽、自研矩阵扩展，把 27B 模型的 prefill 和 decode 都压在 CPU 上；官方同时承认，软件优化仍在成熟中，客户买它是买 “当下可用 + 未来生态”。进迭时空 K3 则是另一端：8 颗 X100 + 8 颗 A100，60 TOPS，支持 300—800 亿参数模型，跑 Qwen3-30B-A3B 首字延迟 0.9 秒、生成约 15 token/s，已经拿到单板电脑、算力集群服务器订单。
四、踩坑派担心什么
| 坑 | 具体表现 | 代价 | 怎么绕 |
|---|---|---|---|
| 把 ISA 开放当生态开放 | 芯片有了，PyTorch 算子、编译器、驱动跟不上 | 客户买了不会用 | 先建软件团队，再流片 |
| 追峰值算力忽略内存 | TOPS 很高，token/s 很低 | 大模型推理体验差 | 软硬协同，先看带宽和 KV Cache |
| 自定义矩阵扩展碎片化 | 每家一套指令，编译器要适配 N 套 | 重蹈 SME/AMX 分裂 | 走 AME/IME 标准，或 MLIR 统一抽象 |
| 直接替代 x86/Arm | 客户迁移成本高，生态不认 | 卖不动 | 打新品类，不打存量替代 |
| 把 demo 当量产 | 实验室能跑，机房不稳定 | 交付翻车 | 早做 RAS、认证、供应链 |
最典型的是矩阵扩展：RISC-V 现在有 BDP、IME、VME、AME 四条路线，分别对应 “向量寄存器里做矩阵”“独立 tile 寄存器”“独立矩阵子系统” 等不同设计。标准没统一，编译器就要为每家的矩阵指令写不同后端；这正是 RISC-V 最需要避免的碎片化。
五、五种技术路线，适合的场景不一样
| 路线 | 代表 | 优势 | 风险 |
|---|---|---|---|
| 通用 RISC-V AI CPU | 玄铁 C950、进迭 K3 | 编程通用，适合边缘 / 推理 / Agent | 峰值算力不如专用 NPU/GPU |
| RISC-V + 独立 NPU/GPU | V100 + AI 卡 | 灵活，能借 GPU 生态 | 互联、内存、软件栈复杂 |
| RISC-V 当 GPU/NPU 控制核 | 多数 AI 加速卡 | 低功耗、可定制、实时性好 | 控制核不决定算力 |
| 自定义矩阵加速 | 玄铁 AME 路线 | 高能效、贴合负载 | 标准未定，碎片化 |
| RISC-V 服务器 CPU | V100、SRM31、珠峰 200 | 做 Agent / 推理主机、国产化底座 | 通用生态和可靠性仍在补 |
V100 的路线很典型：46 颗 RISC-V 核、2.4GHz、双路最高 92 核、8 通道 DDR5、52 条 PCIe 5.0，定位不是替代 x86 通用服务器，而是当 “Agent 时代 CPU + 国产 AI 卡” 的主机节点；Red Hat RHEL 10.2 开发者预览已支持，Ubuntu 26.04 也能原生跑。这条路线比 “纯 CPU 替代” 现实得多。
六、软件栈：真正的护城河，也是最深的坑
| 软件层 | 需要什么 | 2026 现状 | 坑 |
|---|---|---|---|
| 框架 | PyTorch、ONNX Runtime、vLLM | 部分可用，定制算子要回退 | 算子覆盖不全 |
| 编译器 | LLVM/GCC、MLIR、矩阵 intrinsics | RVA23 基线可用，矩阵后端分裂 | 每家指令不同 |
| 算子库 | GEMM、Attention、KV Cache、量化 | 厂商自研为主，性能参差 | 换芯片要重调 |
| 运行时 / 驱动 | Linux、KVM、IOMMU、RAS | 服务器规范刚落地 | 机房稳定性待验证 |
| 工具链 | profiling、量化、调试 | 比 x86/Arm 弱 | 开发者上手慢 |
官方自己说得很直白：高性能和 AI 负载的 RISC-V 软件优化 “仍在成熟中”，硬件必须先走一步；客户今天买 C950，买的是 “当下性能 + 通往统一生态的路径”。这句话翻译过来就是：软件栈还没到 “开箱即用”，谁来做编译器、算子库、框架适配，谁就决定芯片能不能卖出去。
七、哪些场景现在适合，哪些别硬上
| 场景 | 适合度 | 理由 |
|---|---|---|
| 机器人 / 具身智能 | 高 | 实时、低功耗、CPU+AI 融合，K3 已在人形机器人实测 |
| 端侧 AI / 边缘推理 | 高 | 模型 30—80 亿参数，本地跑得动，隐私好 |
| 私有化推理 / Agent 主机 | 中高 | 数据不出域，CPU 调度 + 国产 AI 卡 |
| 云上大模型训练 | 低 | GPU/NPU 矩阵阵列和 CUDA 生态仍是主场 |
| 通用服务器替代 | 低 — 中 | 软件迁移成本高，只能打增量 |
| 车规 / 工业 | 中 | 功能安全认证长周期，IP 成熟度要求高 |
RISC-V International 的汽车路线图说得很清楚：RVA23 把向量扩展做成必选项，矩阵扩展还在开发；车规芯片可以用 RISC-V 做安全岛、区域控制器、座舱，但 “可认证” 不等于 “已认证”，证书要由芯片和 Tier 1 自己拿。这也是所有新架构进入高可靠场景的必经之路。
八、三类玩家，三条不同的路
| 玩家 | 该做什么 | 不该做什么 |
|---|---|---|
| 芯片创业公司 | 选一个场景做深，软硬协同，先交 SDK 和客户 | 一上来做通用大 CPU，和 x86/Arm 正面拼 |
| 系统 / 服务器厂商 | 用 RISC-V 当 host / 控制面，配 GPU/NPU | 宣称 “RISC-V CPU 替代训练 GPU” |
| 投资者 | 看流片、量产、订单、软件栈 | 只看 “RISC-V 概念” 和峰值 TOPS |
一个务实的判断标准：如果一家公司能说清 “谁用、跑什么模型、token/s 多少、编译器谁维护、客户是谁”，它大概率不是在踩坑；如果只有 “开放指令集、自主可控、算力很强”，却拿不出量产和软件栈，那就要打问号。
九、尽调清单：八问辨真假
- 流片了吗？量产了吗？良率多少？
- 符合 RVA23/RVA23.1 吗？Linux 主线支持吗？
- 矩阵 / 向量扩展是标准还是私有？编译器后端谁写？
- 内存带宽多少？跑 7B/27B/70B 模型 token/s 多少？
- PyTorch/ONNX/vLLM 算子覆盖多少？自定义算子怎么回退？
- 有哪些操作系统 / 发行版支持？驱动、RAS、虚拟化做到什么程度？
- 有真实客户和订单吗？参考设计、SDK、文档齐不齐？
- 功能安全 / 信息安全认证做到哪一级？供应链稳不稳？
落到一句话：RISC-V 做 AI 芯片，革命不在 “替代谁”，而在 “长出新品类”；踩坑也不在 “指令集不开放”，而在 “软件栈撑不起承诺”。 2026 年是分水岭，但分水岭两边，一边是量产和订单，一边是 PPT 和 demo，区别不在口号，在交付。
【常见问题】
问题 1：RISC-V 做 AI 芯片，能替代 NVIDIA GPU 吗？
回答 1：短期不能。RISC-V 适合做 AI 芯片的主控 CPU、端侧 AI CPU、私有化推理主机，训练大模型仍要靠 GPU/NPU 的矩阵阵列和 CUDA 生态；把 RISC-V 当 “GPU 替代品” 就是踩坑。
问题 2：RISC-V 的矩阵扩展现在能用吗？
回答 2：能用，但还没统一。RVA23 强制 RVV 1.0 向量扩展，矩阵方面 IME、AME、VME 仍在推进，IME 批准已滑到 2027 年一季度；厂商可以用私有矩阵扩展，但 RISC-V AI 芯片的软件碎片化风险就在这里。
问题 3：玄铁 C950 跑 30+ token/s，说明 RISC-V AI 芯片成熟了吗？
回答 3：说明 RISC-V 能跑大模型，但不等于成熟。C950 是 64 核目标配置、约 400GB/s 带宽、自研矩阵扩展加深度软硬协同的结果；普通 RISC-V AI 芯片要做到同样 token/s，还要跨过内存、编译器和算子库三道坎。
问题 4：创业公司做 RISC-V AI 芯片，最大的坑是什么？
回答 4：最大的坑不是指令集，是软件栈和客户迁移。RISC-V AI 芯片要有编译器、算子库、框架适配和真实订单；只想靠 “开放 ISA + 峰值算力” 融资，很容易做成 PPT 芯片。
问题 5：哪些场景现在适合用 RISC-V AI 芯片？
回答 5：机器人、端侧 AI、边缘推理、私有化推理、Agent 主机、工业网关最合适；云上大模型训练和通用服务器替换还不适合，RISC-V AI 芯片要先打增量市场，再谈替代。
【参考资料】
[2026-11-13]（V Questions with… DAMO Academy’s Dr. Jianyi Meng）RISC-V International
[2026-11-11]（RISC-V Specification Dashboard）RISC-V International
[2026-10-29]（2026 RISC-V Summit China | SpacemiT Unveils V100 Server CPU, Advancing RISC-V into the Data Center）SpacemiT
[2026-10-27]（从 PPT 到机房：RISC-V 迎来 RVA23 落地之年，AI 与物理 AI 双线突围）36 氪
[2026-10-22]（进迭时空孙彦邦：RISC-V 的机会在 AI 新品类 机器人规模化绕不开 “一颗 SoC”）中电网
[2026-10-15]（V Questions with… DAMO Academy’s Dr. Jianyi Meng）RISC-V International
[2026-08-18]（Pervasive AI | RISC-V Automotive Hub）RISC-V International
[2026-06-10]（Matrix Extensions for RISC-V Delivering on the Promise）RISC-V Summit Europe
[2026-05-06]（RISC-V Server Platform Specification v1.0）RISC-V International
【免责声明】
本文依据 RISC-V International 规范进展、厂商公开资料和行业报道整理，仅用于技术路线与产业判断参考，不构成投资建议或对任何公司、产品的性能承诺。文中 token/s、TOPS、核数、内存带宽等数据来自厂商或公开测试口径，实际表现受模型、量化、软件版本、散热和系统配置影响；市场渗透率、算力规模等为机构预测，存在不确定性。RISC-V 矩阵扩展、服务器生态和行业认证仍在演进，具体产品选型应以流片、量产、软件栈和真实订单为准。