先说结论:开源项目 Edge0(无界方舟)在 2026 年 11 月 12 日放出了 Edge0-145B 和 Edge0-120B 两款端侧模型,并配套统一推理框架与部署工具。其中 Edge0-145B 总参数 1450 亿(145B),官方称是首个可在个人电脑本地运行的 1450 亿参数开源模型;按项目方实测口径,它在兼容的笔记本或台式机上峰值内存占用约 29GB,解码速度 80 tokens/s 以上,上下文 128K–256K,编程、推理和智能体能力对标云端 Flash 级模型。它想解决的核心问题很直接:把复杂任务的执行权留在本地设备上,敏感数据不上传、不按 token 付云端费用、断网也能用。不过要先打个预防针:目前跑分和场景演示基本来自 Edge0 内部评测与官方演示,完整复现环境和第三方复测还没出来,"最强端侧智能" 的说法需要等独立验证后再下最终判断。
一、模型基本盘一览
先把公开信息整理成表:
| 项目 | Edge0-145B 公开口径 |
|---|---|
| 发布方 | 开源项目 Edge0(无界方舟) |
| 发布时间 | 2026 年 11 月 12 日 |
| 模型规格 | Edge0-145B(145B 总参数)、Edge0-120B 同步开源 |
| 架构 | 稀疏专家(MoE)设计,单次推理真正参与计算约 10B 参数 |
| 目标设备 | 个人笔记本 / 兼容台式机,不需要服务器 |
| 支持平台 | macOS、Windows、Linux;苹果 M 系列芯片、RTX 4090/5090/5090D、RTX Spark 等 |
| 交付形式 | 权重上架 Hugging Face,推理框架在 GitHub,另有免账号、无额度限制的桌面 App |
| 上下文长度 | 128K–256K |
| 定位 | 本地离线运行的编程、推理与智能体(Agent)能力 |
二、145B 参数怎么装进一台电脑
端侧模型长期卡在 "规模和硬件难两全":参数做大,内存和带宽扛不住;做小了又应付不了专业任务。Edge0 团队的解法分四个环节:
- MoE 稀疏架构:海量专家之间共享大矩阵,压缩需要存储和搬运的权重。145B 是总参数规模,但每一步推理只有约 10B 参数参与计算,相当于把 "账面规模" 和 "实际负载" 拆开。
- 端侧优先训练:没有走 "先做云端大模型、再压缩到端侧" 的老路,而是从零开始把端侧硬件的硬性约束写进训练目标,规避事后剪枝、量化带来的精度损失。
- 三层内存调度流水线:贯穿 GPU 显存、系统内存和 SSD—— 访问最频繁的 "热专家" 长期驻留显存;约 40GB 专家权重放在系统内存按需换入;约 48GB 词表数据直接从固态硬盘实时读取,三者并行,消除传统串行等待。
- 计算协同与投机解码:GPU 处理已缓存的专家,CPU 同步承担其余负载;再借助投机解码把权重读取开销摊薄,缓解本地推理常见的等待瓶颈。
三、实测资源占用与基准成绩
1. 本地运行资源占用(官方实测口径)
| 指标 | Edge0-145B 实测数据 |
|---|---|
| 峰值内存占用 | 约 29GB |
| 提示词预处理速度 | 超过 1100 tokens/s |
| 解码生成速度 | 超过 80 tokens/s(RTX 5090D 24GB + Q3_K 构建约 100 tokens/s) |
| 典型功耗 | 约 120W |
| 上下文 | 128K–256K |
| 内存对比 | 标准 4-bit 部署的主流基线模型通常需 70–87GB 内存,官方称占用缩减约 40%–60% |
2. 基准测试得分(Edge0 内部评测口径)
| 模型 | DeepSWE 1.1 | Terminal-Bench 2.1 | HLE | GPQA-Diamond | IFBench | AA-LCR |
|---|---|---|---|---|---|---|
| Edge0-145B | 64.6 | 86.52 | 35.4 | 90.4 | 80.6 | 79.3 |
| Edge0-120B | 53.6 | 81.3 | 31.0 | 87.4 | 79.3 | 81.0 |
| Qwen3.8-Flash-Next | 58.7 | 83.3 | 35.9 | 91.7 | 81.3 | 79.1 |
| Qwen3.8-27B | 42.2 | 73.0 | 30.8 | 89.2 | 79.5 | 82.0 |
| DeepSeek-V4-Flash-0731 | 54.4 | 82.7 | — | 90.8 | 79.2 | — |
| Claude-Opus-4.6 (Max) | — | 78.2 | — | 91.3 | 62.5 | 78.0 |
六项基准平均得分 72.8,官方对比对象 Qwen3.8-Flash-Next 为 71.7。从分项看,Edge0-145B 在编程智能体(DeepSWE、Terminal-Bench)和指令遵循(IFBench)上占优,在知识推理(GPQA、HLE)上与对标模型互有高低。
四、本地生产力场景演示
官方放出的本地 Agent 演示,覆盖了几类典型生产力工作流,整个过程在本地离线环境完成:
- 视频制作:一小时内独立完成一支特斯拉 Roadster 介绍视频的策划与制作;
- 3D 建模:在 Blender 中从零搭建曼哈顿风格 3D 城市场景;
- 游戏开发:写出可运行的中世纪题材 RPG 游戏;
- 硬件控制:生成操控真实无人机穿越障碍的飞行程序;
- 工程设计:在 KiCad 中完成 PCB 电路板布线,再衔接 Unreal Engine 输出装配动画。
这些演示对应的能力链条是:自然语言理解 → 任务规划 → 代码编写 → 运行调试 → 视觉检查结果。成本方面,项目方给出的换算是:同等曼哈顿场景人工成本约 1.2 万–1.8 万美元、至少一个月,走领先云端模型的 token 费用超过 150 美元;本地推理不再产生云端 token 和 API 费用,但硬件购置和用电成本仍然存在。
五、端侧方案的收益与边界
本地跑模型的实际好处
- 数据自留:敏感代码、文档和素材不必上传到第三方服务器,适合对隐私和保密有要求的场景;
- 费用可控:没有持续按量计费的 API 开支,长期高频使用时成本结构不同;
- 离线可用:网络中断或环境受限时,核心能力仍可在本机运行;
- 流程闭环:规划、写码、调试、检查都在同一台设备上完成,减少跨工具切换。
当前边界和短板
- 硬件门槛不低:29GB 峰值内存、120W 左右功耗,意味着它对独显或大内存芯片有明确要求,普通轻薄本未必跑得动;
- 能力仍需补充:低配置设备运行、跨设备长期记忆、最新信息检索等,依然要靠小模型或云服务配合;
- 评测口径待验证:跑分和对比多为 Edge0 内部评测,完整测试环境与复现说明要随技术报告发布;对比表中的 Claude 为 Opus 4.6 (Max),属于较早一代,第三方复测之前,对标结论应保留看待;
- 演示非量产承诺:场景演示是公司内部测试,节省的人力与费用也是官方自行换算,不能直接等同于实际交付效率。
六、小结
综合现有信息:无界方舟 Edge0-145B 把 1450 亿参数的模型压缩到可在本地 PC 运行,靠 MoE 稀疏架构、端侧优先训练和显存 / 内存 / SSD 三层调度实现;官方实测口径下 29GB 峰值内存、80+ tokens/s 解码,编程智能体分数对标云端 Flash 级模型,并展示了视频、3D、游戏、无人机和 PCB 等本地 Agent 工作流。它代表端侧 AI 向 "真正参与生产力" 迈出的一步,但能不能称得上 "最强端侧智能",还要看后续第三方复测、普通硬件上的实际稳定性,以及在真实工作场景里的完成质量。
【相关 FAQ】
问题 1:无界方舟 Edge0-145B 是什么模型,参数规模有多大?
回答 1:无界方舟(Edge0)在 2026 年 11 月 12 日开源 Edge0-145B 与 Edge0-120B 两款端侧模型;Edge0-145B 总参数 1450 亿(145B),采用 MoE 稀疏架构,单次推理约 10B 参数参与计算,目标是在个人电脑本地运行编程、推理和智能体任务,而不是依赖云端服务器。
问题 2:Edge0-145B 在本地设备上跑起来,实测需要多少硬件资源?
回答 1:按官方实测口径,Edge0-145B 峰值内存约 29GB,预处理速度超过 1100 tokens/s,解码 80 tokens/s 以上,典型功耗约 120W,上下文 128K–256K;兼容苹果 M 系列芯片及 RTX 4090/5090 等平台,支持 macOS、Windows、Linux。这意味着无界方舟这台端侧模型仍有明确独显或大内存门槛,普通轻薄本可能无法流畅运行。
问题 3:Edge0-145B 的编程和推理能力实测表现如何,对标哪些模型?
回答 1:在 Edge0 内部评测中,Edge0-145B DeepSWE 1.1 得 64.6、Terminal-Bench 2.1 得 86.52、IFBench 80.6、GPQA-Diamond 90.4,编程智能体项高于 Qwen3.8-Flash-Next、DeepSeek-V4-Flash-0731 等对标项;六项平均 72.8。需要注意这些对比来自项目方自测,无界方舟模型的真实水平还需第三方复测确认。
问题 4:在生产力场景下,本地跑 Edge0-145B 相比云端模型有什么实际好处?
回答 1:本地运行 Edge0-145B 的好处是代码和素材不必上传第三方服务器、没有持续的云端 token/API 计费、断网仍可用核心能力;官方演示了本地完成视频策划、Blender 建模、游戏开发、无人机程序和 PCB 布线等工作流,让无界方舟这类端侧智能直接嵌入个人设备的生产力闭环。代价是硬件和电费成本自担,复杂检索和长期记忆仍可能需要云服务补充。
问题 5:目前关于 Edge0-145B 的实测结论,有哪些需要保留的地方?
回答 1:目前Edge0-145B 的跑分、场景演示和成本换算基本来自官方内部测试,技术报告和完整复现环境尚未发布;对比表中的 Claude 为较早一代 Opus 4.6 (Max),第三方复测前不宜把 "对标前沿云端模型" 当成定论;同时本地无界方舟模型对硬件要求不低,低配设备、联网检索和跨设备记忆仍是短板。
【参考资料】
- [2026-11-13](1450 亿参数装进笔记本:Edge0 开源端侧大模型,本地离线完成编程推理任务)搜狐
- [2026-11-13](Edge0 重磅开源 145B 端侧模型,内存狂省 60% 还能满血写代码)极客猿
- [2026-11-13](Edge0 open-sources 145B on-device AI model for local laptop inference)SiTech Blog
- [2026-11-13](Edge0 开源 145B 模型,笔记本 29GB 内存能跑)Cocoloop
- [2026-11-12](Edge0-145B: Open-Source On-Device AI with 145B Parameters)edge0.ai 官方博客
【免责声明】
本文基于项目方公开博客、开源发布信息及媒体报道整理,所涉参数规模、内存占用、推理速度、功耗、上下文长度、基准得分及场景演示均来自 Edge0 官方自测或媒体转述,测试环境、量化版本和硬件配置不同会导致结果差异。基准对比不构成模型能力的最终排名,第三方独立复测及技术报告发布前,相关结论存在调整可能。文中不构成任何软件采购、硬件升级或投资建议;模型实际表现请以本机部署测试和官方正式文档为准,据此决策风险自担。
