YOLOv11 改进策略 | HWD:引入 Haar 小波变换,减少信息丢失

即插即用的下采样模块HWD,:一种简单有效的语义分割下采样模块 此外,为了研究HWD的好处,提出了一种新的度量,称为特征熵指数(FEI),它衡量在cnn中降采样后的信息不确定性程度。综合实验表明,所提出的HWD模块可以(1)有效地提高跨不同模态图像数据集的分割性能,以及(2)与传统的下采样方法相比,有效地降低信息不确定性。下采样操作,如最大池化或跨步卷积,在卷积神经网络(cnn)中被广泛使用,以聚合局部特征,扩大感受野,并最小化计算开销。然而,对于语义分割任务,局部邻域的特征池化可能会导致重要空间信息的丢失,而这有利于像素级预测。 阅读详情

YOLOv11 改进策略 | HWD:引入 Haar 小波变换,减少信息丢失

介绍

在卷积神经网络(CNN)中,下采样(Downsampling)是降低特征图分辨率、扩大感受野的关键操作,通常通过最大池化(MaxPool)或步长为 2 的卷积(Strided Convolution)实现。然而,这些方法在降低分辨率的同时,往往会丢失图像中的高频细节信息(如边缘、纹理)和精确的空间位置信息,这可能对后续特征提取和目标检测精度产生不利影响,尤其是对于小目标和需要精细定位的任务。HWD(Haar Wavelet Downsampling)模块,作为一种假设的改进,旨在将 Haar 小波变换引入下采样过程,以一种更结构化的方式分解和保留特征信息,从而减少传统下采样造成的信息丢失,提升 YOLOv11(假设的未来版本)的性能。

引言

YOLO 系列算法通过连续的下采样层逐步提取多尺度的特征。下采样过程中的信息丢失是限制模型性能的一个潜在因素。特别是在骨干网络的前期阶段,过度的信息丢失可能导致模型难以从低分辨率特征图中恢复小目标或细粒度目标的细节信息。Haar 小波变换是一种简单的、可逆的数学工具,可以将信号分解为不同尺度和频率的成分(近似分量和细节分量)。将这种分解思想应用于特征图的下采样,可以不仅仅保留低频的近似信息(类似平均池化),还能捕捉到高频的细节信息(水平、垂直和对角线方向的变化),并将这些信息编码到下采样后的特征图中。HWD 模块正是利用这一特性,期望在降低特征图分辨率的同时,最大程度地保留原始特征的丰富信息,为 YOLOv11 提供更优质的输入特征,从而在整体上提升检测能力。

技术背景

传统下采样方法及其局限性
  • 最大池化 (MaxPool): 在一个区域内取最大值。保留了局部最强的特征,但丢弃了区域内其他所有信息,容易丢失细节且对位置敏感。
  • 步长为 2 的卷积 (Strided Convolution): 通过滑动步长为 2 的卷积核实现下采样。学习了一种下采样方式,但卷积本身是局部加权求和,同样可能平滑掉高频细节。

这些方法都是“有损压缩”,不可逆,且对信息丢失没有明确的控制机制。

小波变换 (Wavelet Transform)

小波变换是一种时频分析方法,它将信号分解为不同尺度和频率成分的小波函数组合。与傅里叶变换不同,小波变换具有时间和频率的局部性,非常适合分析非平稳信号。

Haar 小波变换

Haar 小波是最简单的一种小波。在一维情况下,它可以将一个信号分解为两部分:

  • 近似分量 (Approximation): 通过求和(低通滤波)。
  • 细节分量 (Detail): 通过求差(高通滤波)。

在二维图像处理中,2D Haar 小波变换通常通过对图像先进行水平方向的 Haar 变换,再对结果进行垂直方向的 Haar 变换来实现。这会将一个图像块分解为四个子块,分别代表:

  • LL (Low-Low): 水平低频,垂直低频(近似分量,类似缩略图)。
  • LH (Low-High): 水平低频,垂直高频(垂直方向的细节)。
  • HL (High-Low): 水平高频,垂直低频(水平方向的细节)。
  • HH (High-High): 水平高频,垂直高频(对角线方向的细节)。

通过这种分解,可以将原始信息(包括细节)编码到分辨率减半的四个子块中。

Motivation for HWD

HWD 的动机在于:

  • 减少信息丢失: 利用 Haar 小波变换将特征分解到不同的频率通道,保留传统下采样容易丢弃的高频细节信息。
  • 结构化下采样: 提供一种比 MaxPool 或步长卷积更具信息保留能力的下采样机制。
  • 可逆性 (潜在): 小波变换通常是可逆的,虽然在神经网络中可能不需要完全可逆,但这种思想有助于理解信息保留。
  • 高效性: Haar 小波计算简单,可以在神经网络中高效实现。
Hypothetical HWD Principle

假设 HWD 模块的工作原理如下:

  1. 2D Haar 小波分解: 对输入的特征图应用 2D Haar 小波变换。对于每个 2×22 \times 22×2 的输入区域,将其分解为 LL, LH, HL, HH 四个系数。
  2. 通道扩展: 将原始特征图的每个通道都进行 Haar 分解,生成 4 个通道(对应 LL, LH, HL, HH)。如果原始特征图有 C 个通道,分解后将得到 C * 4 个通道。同时,特征图的空间分辨率降低为原来的一半。
  3. 特征重排/融合: 将分解得到的 LL, LH, HL, HH 特征图在通道维度上进行重排或通过 1x1 卷积进行融合,生成最终的输出特征图。输出特征图的分辨率是输入的一半,通道数可以是 C * 4 或通过 1x1 卷积调整为期望的通道数。

应用使用场景

将 HWD 模块应用于 YOLOv11 的下采样层,可以显著提升其在以下场景中的性能:

  • 小目标检测: 在骨干网络早期阶段使用 HWD 进行下采样,可以更好地保留小目标的细节信息,提高小目标的检出率。
  • 检测具有精细纹理或边缘的目标: 高频细节信息的保留有助于模型识别和区分具有复杂纹理或清晰边缘的目标。
  • 需要精细定位的任务: 保留更准确的空间信息有助于提高目标边界框的定位精度。
  • 医学影像分析: 在需要识别细微病灶或结构的任务中,减少信息丢失非常重要。

不同场景下详细代码实现

以下提供使用 PyTorch 实现标准的下采样模块以及假设的 2D Haar 小波分解和 HWD 模块。

1. 标准下采样模块实现 (PyTorch)
import torch
import torch.nn as nn

class StandardDownsample(nn.Module):
    def __init__(self, in_channels, out_channels, mode='stride_conv'):
        super().__init__()
        if mode == 'stride_conv':
            self.downsample = nn.Sequential(
                nn.Conv2d(in_channels, out_channels, kernel_size=3, stride=2, padding=1, bias=False),
                nn.BatchNorm2d(out_channels),
                nn.SiLU()
            )
        elif mode == 'max_pool':
            # MaxPool doesn't change channel count, might need a conv before/after
            self.downsample = nn.MaxPool2d(kernel_size=2, stride=2)
            self.conv = nn.Sequential(
                 nn.Conv2d(in_channels, out_channels, kernel_size=1, stride=1, padding=0, bias=False),
                 nn.BatchNorm2d(out_channels),
                 nn.SiLU()
            )
        else:
            raise ValueError("mode must be 'stride_conv' or 'max_pool'")
        self.mode = mode

    def forward(self, x):
        if self.mode == 'max_pool':
            return self.conv(self.downsample(x))
        return self.downsample(x)

# 示例使用标准下采样
if __name__ == '__main__':
    input_tensor = torch.randn(1, 64, 40, 40)
    std_downsample_conv = StandardDownsample(in_channels=64, out_channels=128, mode='stride_conv')
    std_downsample_pool = StandardDownsample(in_channels=64, out_channels=128, mode='max_pool') # Note: might need channel adjustment logic
    
    output_tensor_conv = std_downsample_conv(input_tensor)
    output_tensor_pool = std_downsample_pool(input_tensor)

    print("Standard Downsample (Stride Conv) Output shape:", output_tensor_conv.shape) # Resolution halved, channels changed
    print("Standard Downsample (Max Pool + Conv) Output shape:", output_tensor_pool.shape) # Resolution halved, channels changed
2. 假设的 2D Haar 小波分解实现 (PyTorch)

实现 2D Haar 小波分解,将输入的 H×WH \times WH×W 特征图分解为四个分辨率为 H/2×W/2H/2 \times W/2H/2×W/2 的特征图。

import torch
import torch.nn as nn
import torch.nn.functional as F

# 2D Haar Wavelet Decomposition (Conceptual)
class HaarDecomposition(nn.Module):
    def __init__(self):
        super().__init__()
        # Define Haar filters (Low-pass and High-pass for 1D)
        # Low-pass: [0.5, 0.5]
        # High-pass: [0.5, -0.5]
        # In 2D, we combine them:
        # LL: [[0.25, 0.25], [0.25, 0.25]]
        # LH: [[0.25, -0.25], [0.25, -0.25]]
        # HL: [[0.25, 0.25], [-0.25, -0.25]]
        # HH: [[0.25, -0.25], [-0.25, 0.25]]
        
        # Reshape as 2x2 kernels for 2D convolution
        haar_weights = torch.tensor([
            [[[0.25, 0.25], [0.25, 0.25]]<
YOLOv11改进:HWD小波下采样助力小目标检测 目标检测网络中,下采样是扩大感受野、提取多尺度特征的必经之路,但传统stride=2卷积或池化在降分辨率的同时,也会将边缘、纹理等高频信息一并丢弃,导致小目标在深层特征图中几乎消失。Haar小波变换作为一种无参数、可逆的正交变换,能将特征图拆解为低频近似与水平、垂直、对角三个高频子带,实现信息的无损重组。以此为基础的HWD下采样模块,先拆解再融合,让网络自行学习低频与高频成分的权重,从而在降低计算量的同时保留关键细节。该模块可无缝替换YOLOv11中的部分下采样层,尤其适用于无人机航拍、交通监控、医学影像等 阅读详情

相关推荐

YOLOv11中HWD小波下采样模块提升小目标检测精度

在计算机视觉领域,下采样是目标检测算法中的关键技术,直接影响模型对图像细节的捕捉能力。传统卷积和池化下采样方法存在高频信息丢失、边缘模糊等问题,而小波变换凭借其多分辨率分析特性,能更好地保留图像细节。HWD(Haar Wavelet Downsample)模块创新性地将哈尔小波变换引入YOLOv11,在仅增加3.7%计算开销的情况下,显著提升小目标检测精度12.6%。该技术特别适用于无人机巡检、医疗影像分析等需要精细特征识别的场景,通过保留高频信息有效解决了绝缘子裂纹、微小病灶等关键目标的漏检问题。

weixin_33907511的博客 334

即插即用篇 | YOLOv8引入Haar小波下采样 | 一种简单而有效的语义分割下采样模块

YOLOv8引入Haar小波下采样 | 一种简单而有效的语义分割下采样模块

Coding... 3482

YoloV8改进策略:下采样改进|HWD改进下采样

此外,为了研究HWD的优势,我们提出了一种新的度量指标,即特征熵指数(FEI),用于衡量CNN中下采样后信息的不确定性程度。• 我们为卷积神经网络(CNNs)提出了一种新颖的基于小波的下采样模块(HWD)。据我们所知,我们的方法是首次尝试探索在深度卷积神经网络(DCNNs)的下采样阶段禁止(或阻碍)信息丢失的可行性,以改善语义分割任务的性能。• 我们探索了卷积神经网络中信息不确定性的度量方法,并提出了一种新的指标,即特征熵指数(FEI),用于评估下采样特征图与预测结果之间的信息不确定性或特征重要性。

m0_47867638的博客 3175

YOLOv11改进策略【卷积层】| HWD,引入`Haar小波变换`到下采样模块中,减少信息丢失

本文记录的是利用Haar小波下采样对YOLOv11网络进行改进的方法研究。传统的卷积神经网络中常用的最大池化平均池化和步长为2的卷积等操作进行下采样可能会导致信息丢失,为了解决信息丢失问题,HWD作者受无损信息变换方法的启发,引入Haar小波变换到下采样模块中,

Limiiiing的博客 1794

YOLOv11改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

如今各种网络模型更新迭代越来越快,计算机视觉相关的文章也越来越多,多到一些普通,通用的改进点无法达到发表的要求。本专栏正是解决这个问题!如何寻找创新点?为什么要使用这个模块?如何才能提升模型的精度?这是贯穿我们研究始终的问题。创新点在这个专栏中我已经整理好了,这已经省去了大部分时间,但是当我们使用这些新的模块去优化已有的模型,如何才能提升模型的精度,才是我们要达到的最终目标。当然我们可以使用传统的A+B+C的方法去堆积模块,然后是进行大量的实验去排列组合以实现最终的精度提升,这无可厚非。

Limiiiing的博客 6万+

YOLOv12改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

1️⃣ 什么!不知道如何改进模型⁉️ 本专栏所使用并改进的每一个模块均包含详细的模块分析、原理讲解、个人总结、多种改进方式以及完整的修改流程,所有改进100%可直接运行,性价比极高。2️⃣ 找不到合适的模块⁉️ 所有改进点均为近三年顶会,顶刊提出的先进算法,将其融入到中,并进行二次创新,新颖度高,创新度高,能够适应不同的任务场景。3️⃣ 不确定自己改进的步骤、结果是否正确⁉️ 订阅专栏即可进群享受模型训练、模型改进、论文写作、投稿选刊,从入门到论文的各种答疑内容,非常适合新手。4️⃣ 团队内发表数篇SCI论

Limiiiing的博客 2万+

YOLO系列语义分割下采样改进:全网首发--使用 HWD 改进 Haar小波下采样 ✨

本文介绍了一个基于Ultralytics框架扩展的语义分割与YOLO模型改进工程。该工程支持通过切换YAML配置文件快速完成不同网络结构的训练与对比,无需单独编写训练脚本。目前已支持UNet、DeepLabV3+等12种语义分割模型和YOLOv8至YOLO26等5种目标检测模型。工程优势包括:1)统一训练入口,通过YAML切换模型;2)模块化设计便于扩展;3)保持原框架使用风格。重点介绍了基于Haar小波变换的下采样策略(HWD),该策略通过小波变换实现信息无损的空间压缩。文章详细说明了HWD模块的集成步骤

AIcurator的博客 32

YOLOv9改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

如何寻找创新点?为什么要使用这个模块?如何才能提升模型的精度?这是贯穿我们研究始终的问题。创新点在这个专栏中我已经整理好了,这已经省去了大部分时间,但是当我们使用这些新的模块去优化已有的模型,如何才能提升模型的精度,才是我们要达到的最终目标。当然我们可以使用传统的A+B+C的方法去堆积模块,然后是进行大量的实验去排列组合以实现最终的精度提升,这无可厚非。

Limiiiing的博客 4216

YOLOv8改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

1️⃣本专栏已更新150多种不同的改进方法,所使用并改进的每一个模块均包含详细的模块分析、原理讲解、个人总结、多种改进方式以及完整的修改流程,所有改进100%可直接运行。2️⃣所有改进点均为近三年顶会,顶刊提出的先进算法,将其融入到中,紧跟学术热点,适应不同的任务场景。3️⃣团队内发表数篇SCI论文,熟悉完整的发表流程,订阅专栏即可进群享受模型训练、模型改进、论文写作、投稿选刊,从入门到论文的各种答疑内容。4️⃣专栏内容会持续更新,最近更新时间:2024-12-24。项目介绍在大家购买专栏后,加入学

Limiiiing的博客 1万+

YOLOv10改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

如何寻找创新点?为什么要使用这个模块?如何才能提升模型的精度?这是贯穿我们研究始终的问题。创新点在这个专栏中我已经整理好了,这已经省去了大部分时间,但是当我们使用这些新的模块去优化已有的模型,如何才能提升模型的精度,才是我们要达到的最终目标。当然我们可以使用传统的A+B+C的方法去堆积模块,然后是进行大量的实验去排列组合以实现最终的精度提升,这无可厚非。

Limiiiing的博客 1万+

YOLOv13改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进

1️⃣ 已更新种不同的改进方案,专栏内的每篇文章皆,均可顺利运行。2️⃣ 订阅专栏即可进群获取以及从的各种答疑内容。3️⃣ 全新的YOLOv13改进专栏,,只为更好的满足论文发表的要求。专栏内容,专栏实时评分,全网最高,质量保证。🎫。。

Limiiiing的博客 9214

HaarWaveletTransform:Haar小波变换的Java实现

哈尔小波变换 Haar小波变换的Java实现

l0phtcrack 7(爆破管理员密码)使用教程

l0phtcrack7简称lc7,是爆破计算机管理员密码的软件,早期是网络安全管理员用来检测系统用户是否使用了不安全的密码,后被黑客用于用户口令破解 功能:该工具支持远程破解,理论上能破解所有密码,但对复杂度比较高的密码,破解时间很长 使用前提:1.登录了需要破解的计算机 2.知道需要破解的计算机的一个管理员的账户,密码 ** 也许你会疑惑,我都知道了一个管理员账户密码了,还要另外的管理员密码...

Xiongcanne的博客 2万+

Proxmox VE网络配置踩坑实录:从Web界面无法访问到完美修复的全过程

本文详细记录了Proxmox VE服务器Web界面无法访问的完整排查与修复过程。作者从基础网络连通性测试入手,逐步排查了服务状态、SSL证书、端口监听、防火墙规则及网关配置,最终定位并解决了问题。文章提供了系统性的故障排查思路和实用的修复命令,对管理Proxmox VE网络具有重要参考价值。

weixin_29231221的博客 894

浙政钉(专有钉钉)门户免登(超详细)

钉钉家族 介绍浙政钉门户免登之前,首先搞清楚几个软件的关系,软件分别是:钉钉,专有钉钉,浙政钉 钉钉 是阿里巴巴集团专为中小企业打造的沟通和协同的多端平台。 专有钉钉 原名 政务钉钉,有更开放的设计能力、集成能力、更结构化协同产品、更定制化开发平台。支持专有化部署,数据落本地,更安全、客户可对该产品持牌运营、结构化编排,协助构建本地应用中心、提供移动应用全面安全保障体系。 浙政钉 为规范浙政钉整体架构体系,按照统分结合原则,由省政府办公厅统一设计整体工作界面和系统框架,统筹指导全省统建应用建设,各单

一缕南风的博客 2万+

全国大学校园网—拓扑图欣赏

全国大学网络拓扑图(一百张) 典型十张 1、 中央财经大学 2、国防科技大学 3、济南大学 4、西安石油大学 5、南通大学IPV6网络 6、中国矿业大学 7、青海师范大学 8、内蒙古科技大学 9、三峡大学 10、中共江苏省党校 剩余90张 点赞、评论获取 ...

LiBai'S BLOG 5万+

Dobot Magician机械臂二次开发指南:如何利用Python脚本和I/O接口实现自动化任务

本文详细介绍了Dobot Magician机械臂的二次开发方法,重点讲解如何通过Python脚本和I/O接口实现高级自动化任务。内容包括开发环境搭建、运动控制API解析、I/O接口应用以及典型场景实现,帮助开发者充分发挥Dobot Magician的潜力,适用于工业自动化、教育科研等领域。

weixin_26968079的博客 271

vue3+ts项目里如何使用状态管理pinia以及数据持久化

vue3 pinia 数据持久化

ICUiseeyou的博客 8798

42、多媒体与虚拟现实在艺术和影视领域的创新应用

本文探讨了多媒体与虚拟现实在艺术和影视领域的创新应用,涵盖三个典型案例:影视与人类学融合项目通过协作模式模糊作者与观众界限,推动文化文献的发展;交互式数字短片《分手》利用基于对象的广播技术探索个性化影视体验;威尼斯双年展瑞士馆4D项目则通过虚拟现实技术实现文化遗产的数字化展示。这些案例展示了技术在叙事、用户体验及文化保护中的深度应用,并展望了未来技术融合、个性化深化与文化遗产传承的发展趋势。

kappa的博客 116

全球建筑物提取数据集(免费下载):微软/GlobalMLBuildingFootprints

这个是GitHub上的开源数据集: https://github.com/microsoft/GlobalMLBuildingFootprints 介绍 必应地图正在世界各地发布开放式建筑足迹。我们从 2014 年到 2021 年间的 Bing Maps 图像中检测到了 7.77 亿座建筑物,包括 Maxar 和 Airbus 的图像。数据可在 ODbL 下免费下载和使用。该数据集补充了我们的其他版本。 包括的地区 执照 此数据由 Microsoft 根据Open Dat..

此星光明博客 6296

TMS_WebGMaps_1.9.8.0_Full_Source

TMS_WebGMaps_1.9.8.0_Full_Source 全源码 delphi cbuilder

Data-Structures-and-Algorithm-Analysis-in-Java.pdf

作者: Weiss, Mark A. 出版社: Addison Wesley Data Structures and Algorithm Analysis in Java is an “advanced algorithms” book that fits between traditional CS2 and Algorithms Analysis courses. In the old ACM Curriculum Guidelines, this course was known as CS7. This text is for readers who want to learn good programming and algorithm analysis skills simultaneously so that they can develop such programs with the maximum amo...

文档:亲测可用解决vnc灰屏,黑屏,鼠标大黑叉情况

主要解决vnc-viewer灰屏,黑屏,鼠标大黑叉等现象,详细见文档。

上一篇: 【matlab】基于并联SVM支持向量机训练HOG特征提取的人员目标提取
下一篇: 【Go语言从新手到高手】初阶篇-第4章 错误处理 4.1 使用error接口
鱼弦
鱼弦 优质创作者: 编程框架技术领域 优质创作者: 编程框架技术领域 领域专家: 数据科学与机器学习技术领域 领域专家: 数据科学与机器学习技术领域
博客等级 码龄14年 2万+粉丝 3784原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

鱼弦

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值
⌂ 换网址