您的位置首页 >科技要闻 >

TinyML 入门 100 问 01什么是 TinyML,和嵌入式 AI、端侧 AI、边缘计算的关系

TinyML 就是部署在超低功耗微型 MCU、微控制器上的轻量化机器学习,属于 AI 的一个细分方向,它算力要求极低、功耗很小,经常被拿来和嵌入式 AI、端侧 AI、边缘计算放在一起讨论,这几个概念不是并列互斥的,而是层层包含、范围不一样,TinyML 是其中体量最小、功耗门槛最严苛的一类,很多新手容易把它们混为一谈,简单说边缘计算是大概念,端侧 AI 是在设备本地跑 AI,嵌入式 AI 是嵌入式设备上的 AI,TinyML 是嵌入式 AI 里面功耗最低、硬件资源最受限的子集。

一、四个概念区分与关联原因

  1. 边缘计算:范围最大
  2. 端侧 AI:运行在终端设备的 AI
  3. 嵌入式 AI:嵌入式系统上部署 AI
  4. TinyML:极致轻量化的嵌入式 AI

边缘计算核心是把计算从云端下沉到靠近数据产生的设备、网关,不局限于 AI,视频转发、数据预处理都算边缘计算。边缘计算包含边缘 AI、端侧 AI,TinyML 属于边缘 AI 里的一支。

手机、平板、摄像头、智能手表本地跑模型都叫端侧 AI,硬件可以是多核 SoC、NPU,资源充足,功耗和算力上限更高,TinyML 属于端侧 AI 的一种特殊形态。

嵌入式系统包含 MCU、MPU、工控板,嵌入式 AI 覆盖范围广,既有带 NPU 的高性能嵌入式板卡,也有资源很少的单片机,TinyML 就是资源极度受限的嵌入式 AI。

TinyML 专门针对 KB 级内存、MHz 级主频的 MCU,模型经过量化、剪枝,模型体积很小,功耗可以做到毫瓦级别,适合传感器节点、无源传感、电池续航几年的设备,是嵌入式 AI 里门槛最苛刻的分支。

概念核心硬件典型功耗AI 资源条件
边缘计算网关、服务器、工控机瓦级算力充足,可跑大模型
端侧 AI手机、智能摄像头几百毫瓦~瓦级自带 NPU,内存充足
嵌入式 AIMPU、高性能 MCU几十毫瓦~瓦级资源跨度很大
TinyML普通低功耗 MCU微瓦~毫瓦级内存 KB~MB 级别,无硬件 NPU

二、TinyML 项目落地基础识别步骤

  1. 先判断硬件资源
  2. 判断部署位置
  3. 看功耗需求
  4. 模型评估
  5. 归类概念

看主控是 MCU 还是带 NPU 的 SoC,内存、Flash 大小,确认是否满足 TinyML 的资源条件。

区分是云端、边缘网关、终端设备、微型传感器节点,判断属于哪一层。

如果设备需要电池续航数月甚至数年,大概率优先考虑 TinyML 方案。

模型需要做量化、剪枝、轻量化,模型体积压缩到适合 MCU 加载,才是标准 TinyML 流程。

根据硬件、功耗、模型规模,区分属于 TinyML、普通嵌入式 AI 还是通用端侧 AI。

三、方案小结

TinyML 不是独立于嵌入式 AI、端侧 AI、边缘计算之外的新技术,是包含在这个体系里面的细分赛道。边缘计算是计算架构,端侧 AI 是部署位置,嵌入式 AI 是载体平台,TinyML 是资源极致受限场景下的轻量化机器学习。如果硬件算力充足、有 NPU,那一般叫嵌入式 AI 或者端侧 AI,只有跑在超低功耗单片机、模型极度精简的场景,才叫 TinyML。

【常见问题】

问题 1:TinyML 和嵌入式 AI 是不是一回事?

回答 1:TinyML 属于嵌入式 AI 的子集,嵌入式 AI 范围更广,高性能嵌入式板卡跑 AI 也算嵌入式 AI;TinyML 特指在资源极少、低功耗 MCU 上运行轻量化机器学习的场景。

问题 2:TinyML 属于端侧 AI 吗?

回答 2:TinyML 属于端侧 AI 里面的一个细分类型,端侧 AI 泛指所有终端本地运行 AI,手机 NPU、摄像头 AI、MCU 上的 TinyML 都属于端侧 AI。

问题 3:边缘计算一定包含 TinyML 吗?

回答 3:边缘计算不一定包含 TinyML,边缘计算是一套下沉计算的架构,边缘网关可以跑普通 AI,只有接入微型 MCU 传感器节点、部署轻量化模型时,才会用到 TinyML。

【参考资料】

[2026-11-10](TinyML 入门科普:TinyML、嵌入式 AI、端侧 AI、边缘计算概念辨析)TinyML 基金会

[2026-10-22](TinyML 基础定义与应用边界)电子工程专辑

[2026-09-05](嵌入式 AI 与 TinyML 的技术路线差异)CSDN 硬件开发者专栏

[2026-08-18](边缘 AI 分层:云端、边缘网关、端侧、Tiny 节点)EDA365

【免责声明】

本文为 TinyML 入门科普内容,仅用于学习参考;TinyML、嵌入式 AI、端侧 AI、边缘计算的定义随行业发展持续迭代,不同厂商、技术文档口径略有差异,技术选型、项目开发以芯片厂商、TinyML 基金会官方文档为准。

今日大家都在搜的词: