一、本文介绍
本文记录的是利用单头自注意力SHSA改进YOLOv8检测模型,详细说明了优化原因,注意事项等。传统的自注意力机制虽能提升性能,但计算量大,内存访问成本高,而SHSA从根本上避免了多注意力头机制带来的计算冗余。并且改进后的模型在相同计算预算下,能够堆叠更多宽度更大的块,从而提高性能。
专栏目录:YOLOv8改进目录一览 | 涉及卷积层、轻量化、注意力、损失函数、Backbone、SPPF、Neck、检测头等全方位改进
文章目录
二、Single-Head Self-Attention介绍
2.1 出发点
- 宏观设计层面:传统的高效模型大多采用 4 × 4 4×4 4×4的patchify stem和4阶段配置,存在空间冗余,导致早期阶段速度瓶颈且内存访问成本高。研究发现采用更大步长的
订阅专栏 解锁全文
1332



被折叠的 条评论
为什么被折叠?



