Yolov5 改进之损失函数 SlideLoss & 注意力机制 MultiSEAM

yolo增加slide loss,改善样本不平衡问题 然而,由于分类不明确,边界附近的样本往往会遭受较大的损失。然后,通过加权函数Slide对边界处的样本进行强调,如图 4 所示。函数来解决这个问题。简单样本和困难样本之间的区别是基于预测框和ground truth 框的IoU大小。为了减少超参数,将所有边界框的 IoU 值的平均值作为阈值 µ,小于µ的取负样本,大于µ的取正样本。样本不平衡问题,即在大多数情况下,容易样本的数量很大,而困难样本相对稀疏,引起了很多关注。slide loss的主要作用是让模型更加关注难例,可以轻微的改善模型在难例检测上的效果。 阅读详情

用于学习记录


前言


一、SlideLoss

YOLO-FaceV2: A Scale and Occlusion Aware Face Detector
在这里插入图片描述

1.1 utils/loss.py

在这里插入图片描述
插入以下代码:

import math
class SlideLoss(nn.Module):
    def __init__(self, loss_fcn):
        super(SlideLoss, self).__init__()
        self.loss_fcn = loss_fcn
        self.reduction = loss_fcn.reduction
        self.loss_fcn.reduction = 'none'  # required to apply SL to each element
 
    def forward(self, pred, true, auto_iou=0.5):
        loss = self.loss_fcn(pred, true)
        if auto_iou < 0.2:
            auto_iou = 0.2
        b1 = true <= auto_iou - 0.1
        a1 = 1.0
        b2 = (true > (auto_iou - 0.1)) & (true < auto_iou)
        a2 = math.exp(1.0 - auto_iou)
        b3 = true >= auto_iou
        a3 = torch.exp(-(true - 1.0))
        modulating_weight = a1 * b1 + a2 * b2 + a3 * b3
        loss *= modulating_weight
        if self.reduction == 'mean':
            return loss.mean()
        elif self.reduction == 'sum':
            return loss.sum()
        else:  # 'none'
            return loss

修改 class ComputeLoss
在这里插入图片描述

        # Focal loss
        g = h['fl_gamma']  # focal loss gamma
        if g > 0:
            BCEcls, BCEobj = FocalLoss(BCEcls, g), FocalLoss(BCEobj, g)    
   		
   		# 添加以下代码:
        Slide_Loss = h['SlideLoss']
        if Slide_Loss > 0:
            BCEcls, BCEobj = SlideLoss(BCEcls), SlideLoss(BCEobj)

1.2 data/hyps/hyp.scratch-low.yaml

添加以下内容:
在这里插入图片描述

SlideLoss: 0.5

二、注意力机制 MultiSEAM

2.1 models/common.py

class Residual(nn.Module):
    def __init__(self, fn):
        super(Residual, self).__init__()
        self.fn = fn
 
    def forward(self, x):
        return self.fn(x) + x
 
 def DcovN(c1, c2, depth, kernel_size=3, patch_size=3):
    dcovn = nn.Sequential(
        nn.Conv2d(c1, c2, kernel_size=patch_size, stride=patch_size),
        nn.SiLU(),
        nn
YOLOv8改进:LOSS系列篇 | SlideLoss,解决样本之间不平衡、简单样本和难样本(小目标遮挡)的不平衡问题 本文改进:SlideLoss,解决样本之间不平衡、简单样本和难样本的不平衡问题;SlideLoss ,对小目标、遮挡物性能提升明显 阅读详情

相关推荐

YOLOv9改进策略【损失函数篇】| Slide Loss,解决简单样本和困难样本之间的不平衡问题

本文记录的是改进YOLOv9的损失函数,将其替换成Slide Loss,并详细说明了优化原因,注意事项等。Slide Loss函数可以有效地解决样本不平衡问题,为困难样本赋予更高的权重,使模型在训练过程中更加关注困难样本。若是在自己的数据集中发现容易样本的数量非常大,而困难样本相对稀疏,可尝试使用Slide Loss来提高模型在处理复杂样本时的性能。

Limiiiing的博客 2623

【YOLOv8改进-损失函数】SlideLoss损失函数,解决样本不平衡问题

近年来,基于深度学习的人脸检测算法取得了很大进展。这些算法一般可以分为两类,即像 Faster R-CNN 这样的两阶段检测器和像 YOLO 这样的单阶段检测器。由于在准确性和速度之间更好的平衡,单阶段检测器已在许多应用中得到广泛使用。在本文中,我们提出了一种基于单阶段检测器 YOLOv5 的实时人脸检测器,名为 YOLO-FaceV2。我们设计了一个称为 RFE(感受野增强)模块来增强小人脸的感受野,并使用 NWD 损失来弥补 IoU 对微小物体位置偏差的敏感性。

专注于图像领域,主要研究内容包括计算机视觉和深度学习,特别是在图像分类、目标检测和图像生成等方面有深入的研究和实践经验。 3125

Yolov5/Yolov7损失函数改进:SlideLoss,解决简单样本和困难样本之间的不平衡问题

SlideLoss| 亲测在多个数据集能够实现涨点,对小目标、遮挡物性能提升也能够助力涨点。

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 2546

《YOLOv7高阶自研》专栏介绍 & CSDN独家改进创新实战& 专栏目录

​ YOLOv7高阶自研专栏介绍:1)前沿最新计算机顶会复现;2)YOLOv7自研创新结合,轻松搞定科研;3)持续更新中,定期更新不同数据集涨点情况 ​

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 2530

YOLOv7损失函数改进:SlideLoss,解决简单样本和困难样本之间的不平衡问题

SlideLoss,解决简单样本和困难样本之间的不平衡问题,并使用有效感受野的信息来设计Anchor。

①答疑群聊服务;②YOLO大模型知识问答系统;③计算机视觉论文生成智能体; 1432

SlideLoss与FocalLoss在YOLOv8分类损失中的应用及性能分析

YOLOv8作为YOLO系列的最新版本,在目标检测领域展现了高效性和准确性。本文重点探讨了YOLOv8中两种改进的分类损失函数:SlideLoss和FocalLoss。SlideLoss通过动态调整样本权重,特别适用于小目标检测,而FocalLoss则通过赋予难分类样本更高权重,有效解决了类别不平衡问题。实验结果表明,这两种损失函数的结合显著提升了YOLOv8在复杂场景下的检测性能,尤其是在小目标、遮挡目标及类别不平衡的情况下。未来,随着深度学习技术的进步,更多创新损失函数的引入将进一步推动YOLO系列算法

shrgegrb的博客 1153

YOLOv8 损失函数优化:SlideLoss 和 FocalLoss 的创新应用与效果评估

在 YOLOv8 中,损失函数主要由分类损失、边界框回归损失和目标置信度损失组成。分类损失用于确定目标所属类别,边界框回归损失用于精确定位目标位置,目标置信度损失则用于判断边界框内是否包含目标。这些损失函数相互配合,共同指导模型的训练过程,使其能够准确地识别和定位各种目标。本文详细介绍了 YOLOv8 中 SlideLoss 和 FocalLoss 分类损失函数的改进及其在细节上助力模型涨点的作用。通过深入分析这两种损失函数的原理和代码实现,我们展示了它们在提升 YOLOv8 模型性能方面的优势。

shrgegrb的博客 1639

YOLOv9 损失函数进阶:SlideLoss 让小目标检测精度飙升

创建self.loss_fun = loss_fun # 基础损失函数(如BCEWithLogitsLoss)self.loss_coef = loss_coef # 损失系数# 计算滑动权重:根据预测与真实值的差异判断样本难度# 难度越高,权重越大该类在原有损失函数的基础上,通过diff计算样本预测与真实值的差异(差异越大,样本越难),进而生成动态权重,实现对难样本的重点学习。

m0_71589036的博客 109

损失函数篇 | YOLOv8更换损失函数之SlideLoss | 解决简单样本和困难样本之间的不平衡问题

SlideLoss是一种新颖的损失函数,可以有效地解决YOLO算法在处理小目标和密集目标时的问题。本文所做出的改进是在YOLOv8算法中引入SlideLoss损失函数。🌈

小哥谈 2206

优化改进YOLOv5算法之针对小目标检测优化YOLOv5_Face2(超详细)

本文主要参考YOLO-FaceV2这个文章,该文章为了解决人脸检测中小目标、遮挡等问题,在YOLOv5算法的基础提出了几点改进,且取得了比较不错的效果。

qq_40716944的博客 3355

基于SlideLoss与FocalLoss优化的YOLOv8目标检测性能提升研究【YOLOv8】

分类损失边界框回归损失和置信度损失。其中,分类损失负责衡量预测类别与真实类别之间的差异。默认情况下,YOLOv8采用的是交叉熵损失函数或二值交叉熵损失(BCE),但在一些复杂场景下,默认的分类损失函数不足以捕捉到模型与真实值的细微差异。为了解决这个问题,我们可以引入SlideLoss和FocalLoss来改进分类损失。这两者在平衡正负样本、处理不平衡数据和捕捉复杂样本方面有明显优势。本文深入探讨了如何通过改进 YOLOv8 的分类损失函数来提升模型性能,特别是引入了FocalLoss和SlideLoss。

博客 1402

YOLOv10改进,YOLOv10改进损失函数采用SlideLoss来处理样本不平衡问题,助力涨点

Slide Loss的核心在于处理样本不平衡问题,对检测中的难易样本进行加权。其主要目的是在训练过程中,将更多的关注放在难样本上,让模型对这些样本的学习更为深入,而不过度关注简单样本。Slide Loss 的设计灵感来源于样本的 IoU 值。易样本:IoU 值高于 µ 的样本。难样本:IoU 值低于 µ 的样本。Slide Loss 的权重设计像“滑梯”形状,对接近阈值 µ 的样本赋予较高权重。赋予低于阈值的难样本较高的权重,使模型在训练时对这些样本更为关注。

在职AI算法工程师,擅长计算机视觉,YOLO目标检测、分割等,擅长web、pyqt界面可视化,好内容持续更新中,来这里跟大家一起学习,共同进步 712

Win11显卡驱动安装失败的全面解决方案

Windows 11显卡驱动安装失败是一个比较常见的问题,但通过上述方法,我们可以有效地解决这一问题。方法一通过调整组策略编辑器的驱动程序安装策略,可能解决一些因签名问题导致的安装失败;而方法二则通过重装Windows 11系统,为系统提供一个全新的、干净的环境,从而可能解决更复杂的安装问题。在实际操作中,用户可以根据具体情况选择合适的方法来解决显卡驱动安装失败的问题。

nntxthml的博客 2669

Dify工作流构建案例:迭代驱动的多维深度搜索

为了克服这些挑战,我们可以设计一个能够智能协同内部知识库与外部互联网搜索,并最终由大型语言模型(LLM)进行深度整合与精准回答的高级工作流。

同名公众号:dify实验室 2296

详解Unity中的粒子系统Particle System (五)

通过前几篇的学习,我们已经知道了粒子系统的几大基础模块的设置,有了这些模块的知识,我们足以做出惊艳的效果了。今天我们再学一个新的模块,叫做Noise模块,中文译为噪波、噪声、湍流模块等。这个模块的主要功能是让粒子随机化,有了随机化我们就可以模拟更自然的效果。如泡泡的空气中飘荡、一团苍蝇在嗡嗡乱撞,又或者是雪花飘飘、尘土飞扬等场景。下面我就来讲解一下何为Noise。

梦小天幼的博客 6109

判断两个多边形是否相交(java实现)

判断两个多边形是否相交 ,当前认为一个点相交也是相交,可针对凹多边形和凸边型等多复杂的多边形进行相交判断,采用java实现,因为网上java实现的比较少,所以这里写下如何实现,适用于碰撞检测,地图等等应用场景

IT_CREATE的博客 5846

RT-Thread Studio使用笔记(四):带片外Flash(W25Q128)的OTA(YModem)

前言 在学习OTA之前,请先参考上两篇博客写的关于SPI设备及W25Q128的使用方法,传送门: https://blog.csdn.net/tigerots/article/details/107423633 https://blog.csdn.net/tigerots/article/details/107933991 如何使用OTA 一. 制作BootLoader 打开Bootloader 在线获取地址,注册,并根据RT-thread官方文档生成BootLoader,官方文档已经写的很清楚,再此

tigerots的专栏 4012

JS实例(三)图片的缓慢放大和缩小

  我们经常能看到在一些网站中可以通过按钮实现对图片的放大或者缩小,也有可能是鼠标经过时图片放大。在本例中就是通过JavaScript实现图片的放大和缩小。   首先是进行简单的页面布局 1 &lt;div class="imagedispose"&gt; 2 &lt;img src="1.jpeg" id="imaged" width="400px" height="3...

weixin_34235105的博客 319

Fast-Lio2代码及论文解析2

点云数据频率较低而IMU为高频数据。

努力努力努力 2279

python 实现一个完整的基于Python的多视角三维重建系统,包含特征提取与匹配、相机位姿估计、三维重建、优化和可视化等功能

本文介绍了一个基于Python的多视角三维重建系统的实现,涵盖了特征提取与匹配、相机位姿估计、三维重建、优化和可视化等功能。首先,系统通过安装必要的库(如OpenCV、NumPy等)并加载图像数据,初始化相机参数。接着,系统使用SIFT、SURF或ORB算法提取图像特征点,并通过FLANN或BF方法进行特征匹配,应用Lowe's ratio test筛选优质匹配。该系统为后续的相机位姿估计和三维重建奠定了基础,能够从多视角图像中恢复三维场景结构。

huanghm88的专栏 621

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

全球国家地区城市数据

MySQL全球国家地区城市数据报。。。。。。。。。。。。

NTscan扫描工具

ntscan是一个扫描器,可以扫描没有密码和弱密码的共享,先到配置文件中填写猜测的用户名和密码,扫描过程中右侧出现的是扫描日志。

LinePhone3.2.7(android端最新版本) sip客户端

SIP客户端For android:LinePhone3.2.7(最新版本),官网地址:http://www.linphone.org/

上一篇: 可视化工具 netron & pt 转 onnx 格式
下一篇: YOLOv5 如何计算并打印 FPS
701044
博客等级 码龄9年 1574粉丝 40原创
评论 7
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

701044

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址