使用TensorFlow Lite Micro流程记录(带源码)

VIP使用TensorFlow Lite Micro流程记录(带源码)
记录如何使用tensorflow lite micro,以及期间解决的问题
开通可读全文 ·6.2k 人阅读
最低0.47元/天 解锁文章

0 关于tflite micro

请添加图片描述

关于tflite micro在这里接不做过多介绍了,可以查看相关论文:TensorFlow Lite Micro: Embedded Machine Learning on TinyML Systems

我非常喜欢tflite micro,占用资源很少,是一个用来学习推理框架的好工程。

1 克隆仓库

在tensorflow的git里面,看到git已经迁移至一个单独的仓库。

As of June 25, 2021, the TFLM codebase has moved to a stand-alone github repository.

于是执行命令:
git clone https://github.com/tensorflow/tflite-micro.git

2 编译静态库

求助了ChatGPT 4.0:

「在这个 https://github.com/tensorflow/tflite-micro , 怎么编译静态库?」

在TensorFlow Lite Micro的GitHub仓库中,你可以使用以下步骤来编译静态库:

首先,你需要克隆仓库:
git clone https://github.com/tensorflow/tflite-micro.git

进入克隆下来的仓库目录:
cd tflite-micro

使用make命令编译静态库:
make -f tensorflow/lite/micro/tools/make/Makefile TARGET=<TARGET> TARGET_ARCH=<ARCH> microlite

在上述命令中,<TARGET>应替换为你的目标平台(如linux),<ARCH>应替换为你的目标架构(如x86_64)。这将在tensorflow/lite/micro/tools/make/gen/<TARGET>_<ARCH>/lib/目录下生成一个名为libtensorflow-microlite.a的静态库。

请注意,你可能需要根据你的具体需求和环境来修改这些步骤。例如,你可能需要安装额外的依赖库,或者修改makefile来包含你需要的特性。

真是太棒了,于是我执行指令:

make -f tensorflow/lite/micro/tools/make/Makefile TARGET=linux TARGET_ARCH=x86_64 microlite

在 make/download/ 目录下,分别下载了flatbuffers、gemmlowp、kissfft、pigweed、ruy(如果你“网络不佳”,这里可能要花些精力)。

编译完成后,得到了静态库文件——
ar: creating gen/linux_x86_64_default/lib/libtensorflow-microlite.a

3 模型转换

以lenet5模型为例:

  1. 先把tflite模型转换为cpp文件:
    xxd -i lenet5.tflite > lenet5.cpp
  2. 包一下模型接口
    在lenet5.cpp的文件最后加入了这几行代码
    unsigned char * get_model_pointer()
    {
         
         
        return lenet5_tflite;
    }
    
    unsigned int get_model_size()
    {
         
         
        return lenet5_tflite_len;
    }
    
  3. 增加函数头文件
    #ifndef __MODEL_INTERFACE_H__
    #define __MODEL_INTERFACE_H__
    
    unsigned char * get_model_pointer();
    unsigned int get_model_size();
    
    #endif
    
    这样代码相对比较规范一些,当然也可以直接xxd
VIP TensorFlow Lite Micro在MCU上的完整部署指南:从模型量化到工程集成 TensorFlow Lite Micro是专为微控制器设计的轻量级推理引擎,能够在资源受限的MCU上运行神经网络模型。其核心原理是将模型权重与激活值量化为int8整数,利用预分配的tensor arena避免动态内存分配,从而将运行时压缩至20-30KB。通过全整数量化与算子支持筛选,开发者可让CNN等常规模型在Cortex-M、ESP32等嵌入式平台上高效运行。该技术广泛应用于智能传感器、可穿戴设备、工业监测等场景。本文以STM32F407为例,详细讲解从模型转换、量化校准到源码集成的完整部署流程,并剖 开通可读全文·319 阅读·1 点赞·6 收藏 阅读全文

相关推荐

TensorFlow和它的弟弟们

TensorFlow、TensorFlow Lite和TensorFlow Lite Micro是Google针对不同资源环境和应用场景推出的深度学习解决方案。TensorFlow适用于资源丰富的环境,TensorFlow Lite适用于移动设备和嵌入式设备,而TensorFlow Lite Micro则专为资源极度受限的微控制器等小型设备设计。这三者共同构成了Google在深度学习领域的完整产品线,以满足不同场景下的需求。

m0_46171719的博客 1172

​​TensorFlow Lite 终极指南:移动端 AI 部署的革命性框架

TensorFlow总监Rajat Monga指出:"TF Lite是通向AI普及的最后一道桥梁"。当医疗设备能在0.1秒内识别癌细胞,农业无人机实时监测病虫害,手机相机成为专业级创作工具时,人工智能才真正融入了人类的生活日常。TensorFlow Lite (TF Lite) 是谷歌为移动和边缘设备设计的轻量级推理框架,它将云端训练的复杂AI模型"蒸馏"成能在资源受限设备上高效运行的精简版本。从智能手机到工业PLC,从医疗设备到农业机械,TF Lite正成为智能设备的神经系统——轻量、高效、无处不在。

qq_43664407的博客 1903

TensorFlow Lite for Microcontrollers 的使用和实现

使用方法 参考tensorflow/lite/micro/examples/xxx 目录下的使用方法, 以hello_world为例, 文件hello_world_test.cc 1. 创建MicroErrorReporter object tflite::MicroErrorReporter micro_error_reporter; 2. 有tflite model文件得到 tflite::Modle 结构体 const tflite::Model* model = ::tflite::G.

u011279649的专栏 5145

国产MCU也能跑TinyML:AT32F435上实现正弦波预测全流程

在资源受限的嵌入式设备上部署机器学习模型,正在从概念走向工程实践。TinyML作为边缘计算的重要分支,让微控制器无需依赖云端即可完成实时推理,尤其适合工业监测、智能传感等低功耗场景。然而,传统MCU受限于主频、内存和FPU能力,往往难以承载轻量级AI算法。本文以雅特力AT32F435这款国产高性能Cortex-M4F芯片为载体,系统演示了从Keras模型训练、TensorFlow Lite格式转换,到TFLM运行时移植的完整链路。通过经典的“正弦波预测”入门案例,详细解析了tensor arena内存规划、

weixin_29190573的博客 219

嵌入式AI性能优化利器:TensorFlow Lite Micro Profiler实战指南

在嵌入式AI开发中,性能分析是模型部署与优化的关键环节。其核心原理是通过在运行时关键路径插入轻量级探针,采集算子执行时间与内存使用数据,将黑盒推理过程透明化。这项技术的核心价值在于,它能精准定位计算瓶颈与内存峰值,为模型优化提供数据驱动的决策依据,直接影响产品在资源受限的MCU环境下的实时性与稳定性。其典型应用场景包括智能物联网设备、边缘计算盒子以及各类嵌入式传感器中的神经网络推理任务。本文聚焦于TensorFlow Lite Micro(TFLM)框架内置的性能分析工具(Profiler),深入讲解其从环

weixin_27427397的博客 599

31、TensorFlow Lite for Microcontrollers:新平台支持与代码集成指南

本文详细介绍了如何在新硬件平台上支持TensorFlow Lite for Microcontrollers,涵盖日志输出实现、DebugLog函数定制、与Makefile构建系统集成以及不同IDE的适配方法。同时探讨了代码变更管理的最佳实践,并展望了未来在更多平台支持、性能优化和开发流程简化等方面的发展方向,为嵌入式机器学习应用开发提供全面指南。

uber9的博客 112

057、TensorFlow Lite Micro的Image Classification项目:图像分类

这篇文章分享了在STM32H743上部署TensorFlow Lite Micro图像分类项目的实战经验,重点剖析了模型加载、预处理、推理和后处理过程中的关键问题和解决方案。作者总结了多个实际踩坑案例,包括内存对齐要求、Arena大小设定、CMSIS-NN加速的必要性、量化参数获取等核心问题,并提供了优化后的代码实现方案。文章特别强调了预处理流程对分类精度的决定性影响,以及MCU环境下特有的性能考量,对嵌入式AI开发者具有直接的参考价值。

2401_88858637的博客 147

TensorFlow Lite Micro语音识别系统源码拆解:从ESP32到离线KWS

在嵌入式AI与TinyML快速发展的当下,语音识别已从云端大型模型走向资源受限的MCU。其核心原理在于利用TensorFlow Lite Micro运行时,结合模型量化与MFCC特征提取,在本地完成关键词唤醒(KWS)任务。这种方案无需网络连接,具备低延迟、高隐私、低功耗等技术价值,广泛应用于智能家居、便携设备等离线语音控制场景。本文基于一套实际可运行的TensorFlow Lite Micro语音识别系统源码,从工程实践角度拆解其架构、模型转换流程、音频采集与推理优化关键点,并分享调试中的常见陷阱,帮助开

weixin_34274029的博客 3599

基于TensorFlow Lite Micro的MCU离线语音识别系统全解析

嵌入式AI正加速向资源受限的微控制器渗透,让离线语音识别在MCU上成为可能。端侧推理技术将音频采集、特征提取与神经网络推理整合在本地芯片中,典型实现依赖MFCC特征表达与深度可分离卷积网络,显著降低计算与存储开销。TensorFlow Lite Micro作为专为微控制器设计的推理框架,可在数百KB内存内完成关键词识别,兼具低延迟、高隐私与低功耗优势,适用于智能家居、可穿戴设备等场景。这种基于MCU的语音识别方案无需联网,从模型量化到工程部署均有成熟路径,已成为边缘智能的重要实践方向。围绕一套可编译可烧录的

diaoju3333的博客 451

tflite-micro:适用于微控制器的TensorFlow Lite

适用于微控制器的TensorFlow Lite TFLM代码目前正在从重构为独立的。 此重构目前处于初始阶段,预计将在2021年6月底完成。

别再写爬虫了!用Trae平台5分钟搞定一个能聊天的网页数据抓取Agent

本文介绍了如何利用Trae平台快速构建无需编程的网页数据抓取智能体,实现对话式数据采集。通过自然语言指令,用户可在5分钟内完成从数据抓取到分析的全流程,显著降低技术门槛和维护成本。文章详细解析了Trae智能体的核心能力,包括自然语言理解、智能页面解析、数据清洗和可视化配置,并提供了多个实战案例,展示其在竞品监控和舆情分析中的高效应用。

weixin_29038303的博客 722

泛微Ecology流程数据表结构解析:workflow_requestbase和workflow_currentoperator到底怎么关联查询?

本文深入解析泛微Ecology系统中workflow_requestbase和workflow_currentoperator表的结构与关联机制,提供SQL查询语句示例,帮助开发者高效查询流程数据。涵盖待办事项、已办事项、办结事项和流程监控等典型场景,并分享性能优化技巧和常见问题排查指南。

weixin_33738555的博客 825

TI 实时操作系统SYS/BIOS使用总结

1:概述: SYS/BIOS 是一个可扩展的实时的操作系统。具有非常快速的响应时间(在中断和任务切换时达到较短的延迟),响应时间的确定性,强壮的抢占系统,优化的内存分配和堆栈管理(尽量少的消耗和碎片)。能够实现系统的模块化并可裁剪。 最大的特点就是:实时。 2:XDCtools: XDCtools 是SYS/BIOS引用的一种实时的软件组件技术(RTSC),它包括一些有用的工具,标准的AP

带头奋青的博客 5万+

西门子【Automation Framework V1.2】AF架构:从软件栈到高效自动化项目的构建蓝图

本文深入解析西门子Automation Framework V1.2 (AF架构) 的核心价值与实施蓝图。该框架通过定义标准化的软件栈(如TIA Portal V19、STEP7、WinCC Unified)和严格的安装配置流程,将自动化项目开发从依赖个人经验的“手工作坊”模式,转变为高效、可复制的工业化模式。遵循此架构,工程师能快速构建稳定可靠的项目基础,规避环境冲突,从而专注于核心工艺与逻辑设计,大幅提升团队协作与项目交付效率。

weixin_29230059的博客 437

C语言从句柄到对象 (一) —— 全局变量的噩梦与“多实例”的救赎

本文探讨了嵌入式开发中句柄(Handle)的概念与应用。通过电机控制案例,分析了传统单例模式在扩展性上的局限,并展示了如何通过句柄实现代码复用:将电机状态封装为结构体,通过指针(句柄)传递实例数据,使同一套逻辑可操作多个实例。文章比较了单例模式与句柄模式的适用场景,建议底层驱动库默认采用句柄模式以提高扩展性。最后指出当前实现仍存在数据暴露风险,预告下期将介绍不透明指针技术实现更安全的封装。全文揭示了句柄作为C语言实现模块化和面向对象设计的关键作用。

一路往蓝-Anbo 的博客 1345

121、NPU的硬件仿真:使用VerilogVHDL设计MAC单元

MAC单元是NPU的心脏,但别过度优化。先跑通,再优化。我见过有人花两周优化MAC的功耗,结果整个NPU的瓶颈在DDR带宽上,MAC根本跑不满。先做系统级分析,再决定优化方向。下一篇会讲怎么把单个MAC扩展成脉动阵列,以及那个让我调了三个月的“数据反压”问题。

m0_50546716的博客 124

苹果生态最佳搭档:Mac mini + OpenClaw + iPhone 远程控制

本文详细介绍如何通过iPhone远程控制Mac mini上的OpenClaw应用,打造高效苹果生态工作流。内容包括:1) 苹果生态整合优势,包括AirDrop、Handoff等功能对比;2) Mac mini配置步骤,涵盖SSH/VNC设置、网络优化及Docker部署OpenClaw;3) iPhone端SSH/VNC客户端选择与Tailscale内网穿透配置;4) 详细SSH密钥设置与连接测试方法。通过这套方案,用户可实现跨设备无缝控制OpenClaw应用,提升远程工作效率。(149字)

一键难忘的博客 798

思科 MIB 库

思科 MIB

m0_54931486的博客 773

ET2012新版免狗免安装绿色软件

ET2012新版免狗免安祖昂绿色软件。,新界面,新视觉,

全球国家地区城市数据

MySQL全球国家地区城市数据报。。。。。。。。。。。。

jdk-8u144-linux-x64.tar.gz.

该资源为搭建Linux系统Java环境用,资源的后缀为tar.gz格式的压缩包

pscad IEEE标准系统搭建说明

pscad IEEE标准系统搭建说明,包含典型的IEEE 9节点、14节点、30节点、39节点和118节点系统。内含标准测试系统的原始数据和潮流结果。

上一篇: 解决由于历史原因解析tflite失败的问题
下一篇: 解决端口被占用问题
Zhao Dongyu
博客等级 码龄7年 242粉丝 39原创
评论 10
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址