ESP32 也能跑 AI？

项目是什么 + 为什么现在火

slvDev/esp32-ai 是 GitHub 2026-07-27 当日蹿红的边缘 AI 仓库，用 1276 颗星证明了一个反共识的事实：在只有 520KB SRAM、240MHz 双核的 ESP32 小芯片上，AI 推理完全可行。在大模型参数堆砌的当下，它把 AI 重新塞回了嵌入式设备。它火的原因有三：第一，把被 LLM 时代遗忘的 TinyML 拉回开发者视野；第二，给”无网络环境下的智能”提供了开源范本；第三，硬件门槛极低，一块 30 元的 ESP32-S3 就能复现全部示例。

问题 1：ESP32 RAM 太小，模型根本塞不进去？

现象：很多开发者兴冲冲把 TFLite 模型烧进去，启动直接 panic，看不到任何推理输出。

根因：ESP32 片上 SRAM 只有 520KB，模型权重、中间张量、运行时栈、用户缓冲区全都要挤进这 520KB。一个普通的 MobileNet 量化模型就有 1MB 多，天然超出预算。

解法：先用 int8 量化把体积压到 1/4，再用 PSRAM 做二级缓存按需 swap 层。下面这段代码展示了如何把 arena 压缩到 20KB：

#include "esp32-ai.h"
#include <TensorFlowLiteMicro.h>

const tflite::Model* model = tflite::GetModel(g_model_int8_data);
static tflite::MicroInterpreter* interpreter;
static uint8_t tensor_arena[20 * 1024];

void setup() {
  static tflite::AllOpsResolver resolver;
  interpreter = new tflite::MicroInterpreter(
    model, resolver, tensor_arena, sizeof(tensor_arena)
  );
  interpreter->AllocateTensors();
}

如果 int8 还装不下，那就换 ESP32-S3（自带 512KB SRAM + 8MB PSRAM）或外挂 SPIRAM。

问题 2：没有网络，离线场景 AI 还能用吗？

现象：很多 AI 教程默认依赖云端 API，结果产品一部署到工厂、农田、深山就立刻失灵。

根因：开发者习惯了”传感器 → 云端 → 模型 → 返回结果”的链式架构，没考虑边缘场景下的网络不可用问题。

解法：slvDev/esp32-ai 强调全栈本地化。模型权重烧录到 flash，每次 inference 不发起任何网络请求。带来的好处有三个：响应延迟从云端的 200ms 降到本地的 30ms；隐私数据从不离开设备；省掉每月流量费和云端账单。仓库中的 wake-word 检测、人体姿态识别 demo 全部在无网环境下跑通，开发者可以放心部署到任何角落。

问题 3：推理慢到影响实时性怎么办？

现象：用 OV2640 摄像头抓一帧要 800ms，根本做不了实时物体识别，更别提追踪。

根因：ESP32 没有 NPU，卷积运算全靠 CPU 硬扛。224×224 RGB 输入光是预处理就要 200ms，再叠加模型本身计算，时间根本不够。

解法：从硬件和算法两端优化。硬件上换 ESP32-S3（带向量指令）或外挂 KPU。代码层面，把输入分辨率从 224 降到 96，通道数从 32 砍到 16，用 depthwise separable convolution 替代普通卷积。下面是裁剪输入的典型做法：

TfLiteTensor* input = interpreter->input(0);
cropAndResize(camera_fb, input->data.uint8, 96, 96);
interpreter->Invoke();

实测下来，端到端延迟可以从 800ms 压到 120ms，已经能跑 8FPS 的实时识别。

问题 4：连续传感器数据怎么喂给模型？

现象：IMU、麦克风这种连续流数据，模型却要求固定长度的输入向量，怎么对接？

根因：缺少滑动窗口、归一化、重采样这一层胶水代码。直接喂原始数据，模型输出全是噪声。

解法：用一个 ring buffer 缓存最近 N 个样本，触发条件满足后归一化再 inference：

const int WINDOW = 100;
float buffer[WINDOW];
int idx = 0;

void onSensor(float v) {
  buffer[idx++ % WINDOW] = v;
  if (idx >= WINDOW) {
    normalize(buffer, WINDOW);
    runInference(buffer);
    idx = 0;
  }
}

这种模式在仓库的振动异常检测 demo 里被反复使用，把 1kHz 的 IMU 数据降到 50Hz、长度 100 的窗口。

问题 5：电池续航撑不到一天？

现象：连续推理把电流顶到 160mAh，18650 电池 12 小时就告急。

根因：ESP32 在 active 模式下功耗很高，CPU 满载转自然费电。开发者经常忘记芯片还有 deep sleep 这个杀手锏。

解法：deep sleep + 周期性唤醒。每 10 秒醒来一次，采集数据、跑一次 inference、再睡下。平均电流能从 80mA 降到 0.5mA，单节电池续航从 12 小时延长到一周。仓库里还有一个”按键触发推理”的省电 demo，按下才唤醒，平时完全断电。这是 IoT 产品落地的关键模式。

Sources

• GitHub Trending 2026-07-27: slvDev/esp32-ai
• r/embedded 讨论：Running LLM on microcontrollers
• Hacker News：TinyML is eating edge computing
• TensorFlow Lite Micro 官方文档
• ESP32-S3 数据手册