1引用
[1] 同济子豪兄的github项目
[2] 小破站关键点检测视频
onnx部署的优点就是快,比原来模型要快3倍。这里大佬的部署可谓是无敌,读完之后膜拜了。在此向大佬的开源精神致敬,这一系列代码让我少走路很多弯路。
2代码以及解析
2.1代码解析
导入一下常用的库,因为我的老师会在部署的时候,将torch这个比较大的框架去掉,但这边作者是保留的。实际项目中可以考虑去掉torch框架,能够减少软件的体量。
import cv2
import numpy as np
from PIL import Image
import onnxruntime
import torch
# 有 GPU 就用 GPU,没有就用 CPU
device = torch.device('cuda:0' if torch.cuda.is_available() else 'cpu')
import matplotlib.pyplot as plt
%matplotlib inline
这里需要指定关键点的shape,因为是3角板,所以是3个点,每个点有两个坐标和一个置信度信息,所以shape是[3, 3]

kpts_shape = [3, 3] # 关键点 shape
创建onnx的推理引擎
ort_session = onnxruntime.InferenceSession('checkpoint/Triangle_215_yolov8l_pretrain.onnx', providers=['CUDAExecutionProvider', 'CPUExecutionProvider'])
获取输入层的信息,这是模型的本身信息。

获取模型的输出层信息。对于onnx部署,我们需要提前了解的就是输入输出层的信息。

用opencv读取图像

图像的预处理工作。从之前推理引擎中可以看到输入图片的类型必须是[1,3,640,640]。

求图像的缩放比例,通常按照缩放大的比例作为标准

对于图像需要进行归一化,然后变成tensor

将图像输入到推理引擎。之后将输出的转成tensor,因为yolov8处理结果的时候,预测结果的类型就是tensor的类型。yolov有很多成熟的解析结果的函数,比如非极大值抑制等等都是基于tensor的预测结果的。
# ONNX Runtime 推理预测
ort_output = ort_session.run(output_name, {
input_name[0]: input_tensor.cpu().numpy()})[0]
# 转 Tensor
preds = torch.Tensor(ort_output)
这里使用了yolov8自带的非极大值抑制的函数。pred = preds[0]输出结果为torch.Size([3, 15]),表示了三个图片,每个图片上有15个参数。
from ultralytics.utils import ops
preds = ops.non_max_suppression(preds, conf_thres=0.25, iou_thres=0.7, nc=1)
pred = preds[0]
len(pred_det)表示长度,这里等于pred的行数。因为一行记录了一个预测框的信息。
pred_det = pred[:, :6].cpu().numpy()
num_bbox =
588



被折叠的 条评论
为什么被折叠?



