解决由于历史原因解析tflite失败的问题

安卓端YOLOv5模型部署踩坑实录:从NCNN/TFLite到TorchScript官方捷径 在移动端部署目标检测模型时,PyTorch训练出的YOLOv5等模型往往面临跨框架转换的语义漂移问题。NCNN、TFLite、MNN等主流推理框架虽各有优势,但算子兼容性、多级转换损耗和动态结构支持不足,常导致检测框错乱、输出全零等异常。理解模型结构与推理引擎的适配原理,选择语义保持最完整的部署链路,是提升工程效率的关键。TorchScript作为PyTorch官方序列化格式,无需跨框架翻译,可直接保留原始计算图,配合Android端PyTorch Mobile库实现快速集成。本文从模型转换原理切入,对比三 阅读详情

写在最前面:解决方法是升级tensorflow版本,重新生成tflite。

0. 背景

今天遇到了这么一个问题:

  File "***/scripts/tflite/schema.py", line 9366, in Tensors
    x = self._tab.Indirect(x)
  File "***/anaconda3/lib/python3.8/site-packages/flatbuffers/table.py", line 46, in Indirect
    return off + encode.Get(N.UOffsetTFlags.packer_type, self.Bytes, off)
  File "***/anaconda3/lib/python3.8/site-packages/flatbuffers/encode.py", line 26, in Get
    return packer_type.unpack_from(memoryview_type(buf), head)[0]
struct.error: unpack_from requires a buffer of at least 1574732 bytes for unpacking 4 bytes at offset 1574728 (actual buffer size is 853240)

我是在解析某个tflite模型的时候遇到这个问题的,而我在解析别的iflite文件的时候是正常的。
于是分析到是tensorflow的schema文件版本差异的问题,在此记录一下解决过程。

1. tflite 历史遗留问题

最开始的时候,tflite 认为 opcode 不会超过 256 个,所以使用了 u8 来存储。后来就超过了 256 个,改成 int 来存储。但是又不能直接改,所以搞了个巧妙的方式:如果 opcode 小于 256,那么还是用 u8 来存,但是大于 256 的就必须走新的 field 了。

不太好的一点就是,他们把老的那个 field 换了名字,而新的 field 直接用了原来的名字,导致直接调用原来的接口名字的函数在不适配他的逻辑的情况下生成的就是全 0 的东西。

这也就是为什么我解析这个 tflite 模型得到的算子全是 ADD 算子。

2. schema

schema.fbs 是一个 FlatBuffers schema 文件,它定义了数据结构。这个文件通常由你自己创建,以匹配你的特定需求。

对于TensorFlow,它们的 FlatBuffers schema 文件是公开的,可以从它们的源代码库中获取。

我在 https://github.com/tensorflow/tensorflow/tree/master/tensorflow/lite/schema 找到了 schema.fbs 这个文件,将其下载下来。

在这里插入图片描述
同时在这里也可以看到schema之前是有很多版本的。

需要确保 schema.fbs 文件与正在使用的 TensorFlow Lite 版本匹配。如果 schema.fbs 文件与你的 TensorFlow Lite 版本不匹配,可能会遇到问题。

3. flatbuffers 编译器

要使用 FlatBuffers 在 Python 中生成 schema 文件,需要先安装 FlatBuffers 编译器。这个编译器可以将 FlatBuffers schema 文件编译成 Python 类或其他语言的类。

我是使用python,所以在这里记录python。

3.1 安装 FlatBuffers 编译器

在 FlatBuffers 的 GitHub 仓库下载预编译的二进制文件,或者从源代码编译。

使用以下命令从源代码编译 FlatBuffers:

git clone https://github.com/google/flatbuffers.git
cd flatbuffers
mkdir build
cd build
cmake ..
make flatc

编译完成后,FlatBuffers 编译器(flatc)将位于 flatbuffers 目录。

3.2. 编译 FlatBuffers schema 文件

假设你的 FlatBuffers schema 文件名为 schema.fbs,你可以使用以下命令编译它:

./flatc --python schema.fbs
这在当前目录生成一个名为 tflite 的文件夹。

或者,使用
./flatc -p --gen-onefile schema.fbs
得到文件schema_generated.py,这样子好管理版本,但是使代码变得难以管理和阅读,因为所有的代码都在一个文件中。schema.fbs 文件中定义了很多的表和结构,生成的 Python 代码会非常长。

我个人是喜欢用前者生成一个python文件,需要参考源码的时候去后者生成的文件夹里找源码看。

3.3 使用生成的 Python 文件

import schema

# 读取 TFLite 模型文件。
with open('your_model.tflite', 'rb') as f:
    buf = f.read()

# 使用 schema 模块解析模型。
model = schema.Model.GetRootAsModel(buf, 0)

# 现在,你可以使用 model 对象来访问模型的各种属性。
# 例如,你可以获取模型中的操作符数量:
print(model.OperatorCodesLength())

# 或者,你可以获取模型中的第一个操作符的类型:
op_code = model.OperatorCodes(0)
print(op_code.BuiltinCode())

4 问题未解决

我更换了其他版本的 schema.fbs 之后,问题还是没有解决。。。
看来不是schema的问题

需要在解析的时候做以下修改:

tfliteOpSet[tfliteOp->opcode_index]->builtin_code

改成

static_cast<tflite::BuiltinOperator>(tfliteOpSet[tfliteOp->opcode_index]->deprecated_builtin_code)

  • tfliteOpSet[tfliteOp->opcode_index]->builtin_code:这里使用的是builtin_code,这是TensorFlow Lite中内建操作的枚举值。这种方式是推荐的,因为builtin_code是最新的,包含了所有的TensorFlow Lite内建操作。

  • static_cast<tflite::BuiltinOperator>(tfliteOpSet[tfliteOp->opcode_index]->deprecated_builtin_code):这里使用的是 deprecated_builtin_code,这是在旧版本的TensorFlow Lite中使用的,现在已经被标记为弃用(deprecated)。static_cast<tflite::BuiltinOperator>是将 deprecated_builtin_code 转换为 BuiltinOperator 枚举类型。这种方式不推荐使用,因为 deprecated_builtin_code 可能不包含所有的TensorFlow Lite内建操作。

终极解决方案

升级tensorflow版本,重新生成tflite。

NXP eIQ Toolkit 1.16.0深度解析:Neutron NPU支持与边缘AI部署实战 模型部署是AI应用落地的关键环节,尤其在资源受限的嵌入式边缘设备上。其核心原理在于通过模型转换、量化和编译,将通用框架训练的模型适配到特定硬件,以优化推理速度、内存占用和功耗。这一过程的技术价值在于打通了从算法到芯片的“最后一公里”,是实现高性能、低成本边缘智能的基石。典型的应用场景包括工业视觉检测、预测性维护和智能物联网终端。本文聚焦于NXP eIQ Toolkit这一一站式边缘AI开发工具链,其最新1.16.0版本带来了两大核心更新:一是深度集成对NXP自研Neutron NPU的支持,为i.MX 95 阅读详情

相关推荐

基于ESP32与TFLite Micro的农业霜冻智能预警系统设计与实现

物联网与边缘计算是当前嵌入式系统和智能硬件领域的关键技术,其核心在于将计算能力下沉到设备端,实现低延迟、高可靠性的本地决策。通过传感器采集环境数据,并利用机器学习模型进行实时分析与预测,可以显著提升传统行业的自动化与智能化水平。在农业场景中,精准的环境监测与预警对于防灾减灾、保障生产安全具有重要价值。本文以霜冻预警为具体应用,详细介绍了如何利用ESP32微控制器平台,集成温湿度、气压等多类传感器,并部署经TensorFlow Lite Micro量化后的轻量化CNN-LSTM混合模型,在资源受限的边缘设备上

weixin_30883311的博客 447

tflite文件解析

一. 安装flatbuffer 下载flatbuffer:https://github.com/google/flatbuffers 解压flatbuffer,进入其根目录 cd flatbuffers mkdir build cd build cmake .. make -j4 sudo make install flatc --version #输出flatbuffer版...

亦梦云烟的博客 5580

从零构建农作物病虫害识别APP:CNN+TFLite+Android原生开发全流程详解

卷积神经网络(CNN)作为计算机视觉的核心技术,通过卷积层自动提取图像的层次化特征,是实现图像分类任务的高效架构。其原理在于模拟生物视觉皮层,对输入图像进行局部感知和权值共享,从而有效识别图像中的关键模式。在移动端部署AI模型时,TensorFlow Lite(TFLite)是关键工具,它通过模型量化等技术,将训练好的模型转换为轻量级格式,大幅减少体积并提升推理速度,满足了离线、实时的工程需求。这种技术组合在智慧农业、工业质检等边缘计算场景中价值显著,能够将AI能力嵌入资源受限的设备。本文聚焦于一个典型的工

chuange6363的博客 494

你或许也想拥有专属于自己的AI模型文件格式-(2)

紧接着上次的工作,想要回顾或者查看上次内容可以点击以下的链接,链接如下所示: 你或许也想拥有专属于自己的AI模型文件格式-(1)https://blog.csdn.net/Pengcode/article/details/121754272?spm=1001.2014.3001.5502 这次主要的内容是构建我们的专ai模的灵魂,也就是信息组成描述编写。通俗来说,就是定义一个数据协议,这些数据协议中包含了模型数据结构,这些数据结构是我们搭建整个模型的积木,或者说是包含了整个模...

Pengcode的博客 914

ESP32-CAM Python训练环境搭建与TFLite部署避坑指南

边缘AI模型部署的核心,是把PC端训练好的模型经TensorFlow Lite转换、量化后放到资源受限硬件上推理。其原理并不复杂:Python完成数据采集与训练,TFLite转换器压缩模型,板端解释器执行推理;真正影响成败的是Python、NumPy、TensorFlow与esptool的版本兼容,以及串口通信、预处理和输入输出类型的一致性。做好这些,能显著降低模型超内存、板子反复重启、串口读帧不完整等工程问题,让图像分类从Demo走向可复现的硬件验证。ESP32-CAM正是典型的低成本边缘推理场景,围绕其

weixin_29163797的博客 182

DTS中video-interfaces接口详解

视频数据管道通常由外部设备组成,例如通过I2C、SPI或UART总线控制的摄像机传感器,以及SoC内部IP块(包括视频DMA引擎和视频数据处理器)。 SoC内部块由DT节点描述,与其他SoC块放置方式类似。外部设备表示为它们各自总线控制器节点的子节点,例如I2C。 所有视频设备上的数据接口都由它们的子“port”节点描述。端口的配置取决于参与数据传输的其他设备,并由“endpoint”子节...

龙图腾的博客 9014

TFLite: flatbuffers

总述: FlatBuffers 是一个序列化开源库,实现了与 Protocol Buffers,Thrift,Apache Avro,SBE 和 Cap'n Proto 类似的序列化格式,主要由 Wouter van Oortmerssen 编写,并由 Google 开源。Oortmerssen 最初为 Android 游戏和注重性能的应用而开发了FlatBuffers。现在它具有C ++,C#...

u011279649的专栏 2657

Unity抖音小游戏上架实战:从零到一,详解流程与避坑指南

本文详细介绍了Unity抖音小游戏上架的全流程,包括环境准备、SDK集成、开发者账号注册、软著申请、打包提交流程及常见问题解决方案。重点解析了抖音小游戏平台特有的配置细节和避坑技巧,帮助开发者高效完成游戏上架并优化用户体验。

weixin_33704234的博客 265

FlatBuffers实战入门:从Schema定义到数据序列化

FlatBuffers实战入门:从Schema定义到数据序列化 【免费下载链接】flatbuffers FlatBuffers:内存高效的序列化库。 项目地址: https://gitcode.com/GitHub_Trendin...

gitblog_00069的博客 1019

Excel药品说明书数据库:从零开始搭建医药数据查询系统(附完整模板)

本文详细介绍了如何从零开始搭建Excel药品说明书数据库,提供完整的医药数据查询系统模板。涵盖数据库架构设计、数据清洗标准化、智能查询系统搭建及维护优化,帮助医药从业者高效管理药品信息,提升查询速度和准确性。

weixin_28327051的博客 239

schrodinger 薛定谔

链接: https://pan.baidu.com/s/1Duh4GsoytIklvZp7TdHpWg 密码: wmr1 Linux系统版 进入 Schrodinger_Suites_2021-2_Linux-x86_64 sudo ./INSTALL 中间按默认的来即可,也可以自己调整安装目录。安装目录一定要记住。 安装完,把patcher 拷贝到安装目录 sudo ./patcher 点击Patch即可。 启动程序,进入安装目录 ./maestro ...

周迪新的博客 1万+

告别JSON解析瓶颈:FlatBuffers实战入门指南

你是否还在为移动端/嵌入式设备上JSON解析的性能问题发愁?是否遇到过内存紧张环境下数据序列化的困境?本文将带你从零开始掌握FlatBuffers——这款由Google开发的高性能序列化库,通过实战案例演示如何通过简洁的Schema定义实现高效数据传输,让你的应用响应速度提升300%。 ## 什么是FlatBuffers? FlatBuffers是一种内存高效的跨平台序列化库,与传统JSON/...

gitblog_00562的博客 406

RK3576 调试ov2735 mipi-csi摄像头

摘要:本文记录了基于RK3576平台调试OV2735 MIPI摄像头的全过程。开发环境采用Linux 6.1内核和Buildroot文件系统。调试步骤包括:1)硬件检查(电源、晶振和引脚连接);2)驱动配置(设备树节点、ISP通道设置);3)驱动验证(通过ID检测和I2C工具测试);4)推流测试(使用v4l2和gstreamer工具)。重点解决了复位引脚配置、时钟命名匹配等关键问题,并通过寄存器检查确保初始化正常。最终实现了摄像头数据流的成功输出,为嵌入式视觉应用开发提供了完整参考方案。

qq_45147279的博客 1066

HLS转RTL实战:OpenCV与TFLite模型FPGA落地难点解析

高层次综合(HLS)允许工程师用C++描述图像算法与神经网络推理逻辑,再自动翻译成RTL硬件描述,从而在FPGA上实现加速。但其本质不是普通编译器,而是将软件循环、数组和内存访问映射为数据通路与控制逻辑的硬件架构转换器。这一过程在OpenCV图像处理和TFLite模型部署中尤为艰难:OpenCV依赖随机内存访问,而FPGA更适合流式像素处理;TFLite解释器依赖动态调度,无法直接综合成静态硬件算子链。通过掌握Vitis HLS工具链、Vitis Vision库的受限子集、定点量化技术以及行缓冲/窗口等流式

weixin_34409357的博客 288

制作INCA和CANape通用的A2L

CANape和INCA通用的A2L配置与修改

赞的博客 5976

前端使用二开Thingsboard一、二、三事(四)-部件库

以项目实战为基础,逐步介绍前端在thingsboard系统二次开发中的一些注意事项以及一些thingsboard一些页面功能讲解,为前端人员开发使用thingsboard提供一种可靠思路,打造一个完美的物联网系统。

weixin_43163457的博客 746

TensorFlow实战指南:安装避坑、SavedModel部署与TFLite压缩

TensorFlow作为企业级AI模型交付的核心框架,其价值在于标准化的模型即服务(MaaS)、端侧确定性推理和全链路可观测性。理解SavedModel格式本质、掌握tf.function静态图编译机制、合理运用TensorFlow Serving与TFLite量化工具链,是实现工业级模型落地的关键技术路径。本文聚焦真实产线场景,解析CUDA版本兼容性、签名函数设计、QAT量化感知训练、INT8校准及XNNPACK加速等核心实践,覆盖从环境搭建、训练优化到边缘部署的完整工程闭环,尤其适用于智能制造、金融风控

weixin_27889245的博客 294

ONVIF协议简介与协议测试工具使用详解

Onvif协议及协议测试工具使用详解

dvlinker的技术专栏 3万+

TensorFlow工业级AI工程化全解析:从计算图到TFLite部署

TensorFlow不仅是一个深度学习框架,更是面向AI模型全生命周期的工业级工程基础设施。其核心在于计算图抽象、Keras分层API与SavedModel交付标准三大支柱,支撑高确定性训练、跨平台部署及可审计MLOps。相比动态图框架,TensorFlow在GPU利用率优化、边缘端TFLite量化控制、服务签名治理和TFX流水线标准化方面具备不可替代的工程优势。尤其在电商推荐、金融风控、智能终端等需长期稳定运行、强合规与多端协同的场景中,TensorFlow提供的底层可控性、硬件栈深度集成能力与生产就绪组

weixin_29042035的博客 347

RU DOS版、EFI版32bit/64bit BIOS常用工具

DOS版、EFI版的RU工具,可用来查看IO、MEM、PCI、SMBIOS等资源。亲测在EFI SHELL下可用。

OV9734 DATASHEET,完整规格书

OV9734完整规格书,包括电气参数,尺寸规格,寄存器配置表等

系统权限冲突、模型加载失败?安卓 14 适配 Open-AutoGLM 常见问题全解析

解决安卓14运行Open-AutoGLM的系统权限与模型加载难题,本指南提供完整适配方案。涵盖权限配置、模型部署步骤及常见错误应对策略,确保在高版本系统中稳定运行。安卓14手机适配Open-AutoGLM的设置指南已整理完毕,值得收藏。

IterStream的博客 855

VB摄像头监控

该VB模块可对摄像头捕获的画面进行录像等,可在创建的窗口进行控制

TensorFlow生产落地五大工程断层:tf.data性能、tf.function陷阱、SavedModel兼容、TFLite转换与监控埋点

TensorFlow作为工业级深度学习框架,其核心价值不仅在于模型训练能力,更在于从训练到部署的全链路工程化支撑。理解tf.data数据管道的并行调度原理、tf.function图构建的编译机制、SavedModel序列化与反序列化的可复现性约束、TFLite转换对静态形状和Op兼容性的严苛要求,以及生产环境下的低开销监控埋点设计,是保障模型‘能跑’升级为‘稳跑、快跑、可管’的技术基础。本文聚焦真实项目中高频发生的tf.data性能瓶颈与tf.function隐式状态依赖两大热词问题,结合A100显卡实测数

weixin_29053383的博客 247

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

LFM2.5-24B-A2B-Preview-8bit常见问题速查:10个典型报错原因与解决方案清单

**LFM2.5-24B-A2B-Preview-8bit** 是 LFM2.5-24B-A2B-Preview MoE 大语言模型的 8bit 量化 MLX 版本,面向 Apple Silicon 设备本地推理优化。权重文件共 25.47 GB,支持 131,072 tokens 上下文。本文按「下载 → 安装 → 加载 → 生成」全流程,汇总 **10 个典型报错的原因与解决方案**,帮你快速

gitblog_00970的博客 365

TensorFlow 2.9生产级优化:TFLite冷启动、多GPU训练稳定性与ONNX导出实战

TensorFlow作为主流深度学习框架,其模型部署效率直接决定AI落地成败。理解TFLite推理机制、多GPU分布式训练原理及ONNX跨平台兼容性,是工程化落地的核心基础。TensorFlow 2.9并非功能堆砌,而是聚焦真实生产瓶颈——通过ResourceVariable内存访问重构降低移动端首帧延迟,借助NCCL通信拓扑优化提升多GPU训练稳定性,并原生支持ONNX Opset 18实现端到端模型交付。这些改进直击工业质检、边缘智能、金融风控等场景中冷启动慢、训练中断频发、跨平台导出失败等高频问题,让

weixin_34212762的博客 431

一条Make命令跑通MIPS芯片上的TFLite Micro语音识别

嵌入式语音识别指在资源受限的微控制器上实现离线关键词检测,其核心依赖轻量级推理引擎、确定性构建系统与硬件适配能力。TFLite Micro通过静态内存分配、C99纯实现和算子量化,成为裸机/RTOS场景下唯一可行的TensorFlow部署方案;而Make凭借文件时间戳驱动的精确依赖管理,在交叉编译环境中保障了跨平台可复现性与工具链可控性。二者结合,特别适用于龙芯等国产MIPS架构边缘设备,支撑低至64KB内存、毫秒级延迟的实时语音唤醒。本文聚焦MIPS平台下TFLite Micro的端到端落地,涵盖交叉编译

weixin_29171087的博客 211

端侧物理AI工程落地:从模型压缩到Android部署全解析

物理AI(Physical AI)正在重塑智能设备与物理世界的交互方式。与依赖云端的生成式AI不同,物理AI强调在真实环境中闭环地感知、推理与执行,而端侧AI则将这部分算力下沉至设备本地。这一融合——端侧物理AI——正成为解决延迟、隐私与带宽瓶颈的关键路径。在机器人避障、工业检测、智能门锁等场景中,端侧AI硬件部署需统筹算力、功耗与成本,模型压缩与高效推理成为落地前提。本文从硬件选型与Android开发环境准备出发,介绍基于YOLOv8n的轻量模型训练、TFLite INT8量化及Android端集成技术,

weixin_34380948的博客 326

AI伴侣App开发实战:从App Inventor下载到手机部署全流程解析

现象:模型加载时报解决基于火山引擎豆包大模型,从零搭建一个实时语音通话应用。它不是简单的问答,而是需要你亲手打通 ASR(语音识别)→ LLM(大脑思考)→ TTS(语音合成)的完整 WebSocket 链路。对于想要掌握 AI 原生应用架构的同学来说,这是个绝佳的练手项目。架构理解:掌握实时语音应用的完整技术链路(ASR→LLM→TTS)技能提升:学会申请、配置与调用火山引擎AI服务定制能力:通过代码修改自定义角色性格与音色,实现“从使用到创造”从0到1构建生产级别应用,脱离Demo,点击打开。

2600_94959970的博客 478
上一篇: GEMM优化(RISC-V平台)
下一篇: 使用TensorFlow Lite Micro流程记录(带源码)
Zhao Dongyu
博客等级 码龄7年 242粉丝 39原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址