国内老牌的室内设计网站,seo标题关键词怎么写,深圳雅迅公司网站建设,崇左网页设计一、本文介绍
本文给大家带来利用RT-DETR模型主干HGNet去替换YOLOv8的主干#xff0c;RT-DETR是今年由百度推出的第一款实时的ViT模型#xff0c;其在实时检测的领域上号称是打败了YOLO系列#xff0c;其利用两个主干一个是HGNet一个是ResNet#xff0c;其中HGNet就是我们…一、本文介绍
本文给大家带来利用RT-DETR模型主干HGNet去替换YOLOv8的主干RT-DETR是今年由百度推出的第一款实时的ViT模型其在实时检测的领域上号称是打败了YOLO系列其利用两个主干一个是HGNet一个是ResNet其中HGNet就是我们今天来讲解的网络结构模型亲测这个HGNet网络比YOLO的主干更加轻量化和精度更高的主干非常适合轻量化研究的读者这个网络结构目前还没有推出论文所以其理论知识在网络上也是非常的少我也是根据网络结构图进行了分析亲测替换之后主干GFLOPs降低到7.7精度mAP提高0.05。
轻量化效果⭐⭐⭐⭐⭐
涨点效果⭐⭐⭐⭐⭐ 专栏回顾YOLOv8改进系列专栏——本专栏持续复习各种顶会内容——科研必备 训练结果对比图- 这次试验我用的数据集大概有七八百张照片训练了150个epochs虽然没有完全拟合但是效果有很高的涨点幅度所以大家可以进行尝试毕竟不同的数据集上效果也可能差很多同时我在后面给了多种yaml文件大家可以分别进行实验来检验效果。 可以看到这个图片的mAP50和mAP50-95都有一定程度的上涨。
目录
一、本文介绍
二、HGNetV2原理讲解
三、HGNetV2的代码
四、手把手教你添加HGNetV2
4. 1 HGNetV2-l的yaml文件(此为对比试验版本)
4.2 HGNetV2-x的yaml文件
五、运行成功记录
六、本文总结 二、HGNetV2原理讲解
论文地址RT-DETR论文地址
本文代码来源HGNetV2的代码来源
PP-HGNet 骨干网络的整体结构如下 其中PP-HGNet是由多个HG-Block组成HG-Block的细节如下 上面的图表是PP-HGNet神经网络架构的概览下面我会对其中的每一个模块进行分析
1. Stem层这是网络的初始预处理层通常包含卷积层开始从原始输入数据中提取特征。
2. HG层次图块这些块是网络的核心组件设计用于以层次化的方式处理数据。每个HG块可能处理数据的不同抽象层次允许网络从低级和高级特征中学习。
3. LDS可学习的下采样层位于HG块之间的这些层可能执行下采样操作减少特征图的空间维度减少计算负载并可能增加后续层的感受野。
4. GAP全局平均池化在最终分类之前使用GAP层将特征图的空间维度减少到每个特征图一个向量有助于提高网络对输入数据空间变换的鲁棒性。
5. 最终的卷积和全连接FC层网络以一系列执行最终分类任务的层结束。这通常涉及一个卷积层有时称为1x1卷积来组合特征然后是将这些特征映射到所需输出类别数量的全连接层。
这种架构的主要思想是利用层次化的方法来提取特征其中复杂的模式可以在不同的规模和抽象层次上学习提高网络处理复杂图像数据的能力。
这种分层和高效的处理对于图像分类等复杂任务非常有利在这些任务中精确预测至关重要的是在不同规模上识别复杂的模式和特征。图表还显示了HG块的扩展视图包括多个不同滤波器大小的卷积层以捕获多样化的特征然后通过一个元素级相加或连接的操作由符号表示在数据传递到下一层之前。 三、HGNetV2的代码
需要注意的是HGNetV2这个版本的所需组件已经集成在YOLOv8的仓库了所以我们无需做任何的代码层面的改动只需要设计yaml文件来配合Neck部分融合特征即可了但是我还是把代码放在这里供有兴趣的读者看一下也和上面的结构进行一个对照。主要的三个结构HGStemHGBlockDWConv。
class HGStem(nn.Module):StemBlock of PPHGNetV2 with 5 convolutions and one maxpool2d.https://github.com/PaddlePaddle/PaddleDetection/blob/develop/ppdet/modeling/backbones/hgnet_v2.pydef __init__(self, c1, cm, c2):Initialize the SPP layer with input/output channels and specified kernel sizes for max pooling.super().__init__()self.stem1 Conv(c1, cm, 3, 2)self.stem2a Conv(cm, cm // 2, 2, 1, 0)self.stem2b Conv(cm // 2, cm, 2, 1, 0)self.stem3 Conv(cm * 2, cm, 3, 2)self.stem4 Conv(cm, c2, 1, 1)self.pool nn.MaxPool2d(kernel_size2, stride1, padding0, ceil_modeTrue)def forward(self, x):Forward pass of a PPHGNetV2 backbone layer.x self.stem1(x)x F.pad(x, [0, 1, 0, 1])x2 self.stem2a(x)x2 F.pad(x2, [0, 1, 0, 1])x2 self.stem2b(x2)x1 self.pool(x)x torch.cat([x1, x2], dim1)x self.stem3(x)x self.stem4(x)return xclass HGBlock(nn.Module):HG_Block of PPHGNetV2 with 2 convolutions and LightConv.https://github.com/PaddlePaddle/PaddleDetection/blob/develop/ppdet/modeling/backbones/hgnet_v2.pydef __init__(self, c1, cm, c2, k3, n6, lightconvFalse, shortcutFalse, actTrue):Initializes a CSP Bottleneck with 1 convolution using specified input and output channels.super().__init__()block LightConv if lightconv else Convself.m nn.ModuleList(block(c1 if i 0 else cm, cm, kk, actact) for i in range(n))self.sc Conv(c1 n * cm, c2 // 2, 1, 1, actact) # squeeze convself.ec Conv(c2 // 2, c2, 1, 1, actact) # excitation convself.add shortcut and c1 c2def forward(self, x):Forward pass of a PPHGNetV2 backbone layer.y [x]y.extend(m(y[-1]) for m in self.m)y self.ec(self.sc(torch.cat(y, 1)))return y x if self.add else ydef autopad(k, pNone, d1): # kernel, padding, dilationPad to same shape outputs.if d 1:k d * (k - 1) 1 if isinstance(k, int) else [d * (x - 1) 1 for x in k] # actual kernel-sizeif p is None:p k // 2 if isinstance(k, int) else [x // 2 for x in k] # auto-padreturn pclass Conv(nn.Module):Standard convolution with args(ch_in, ch_out, kernel, stride, padding, groups, dilation, activation).default_act nn.SiLU() # default activationdef __init__(self, c1, c2, k1, s1, pNone, g1, d1, actTrue):Initialize Conv layer with given arguments including activation.super().__init__()self.conv nn.Conv2d(c1, c2, k, s, autopad(k, p, d), groupsg, dilationd, biasFalse)self.bn nn.BatchNorm2d(c2)self.act self.default_act if act is True else act if isinstance(act, nn.Module) else nn.Identity()def forward(self, x):Apply convolution, batch normalization and activation to input tensor.return self.act(self.bn(self.conv(x)))def forward_fuse(self, x):Perform transposed convolution of 2D data.return self.act(self.conv(x))class DWConv(Conv):Depth-wise convolution.def __init__(self, c1, c2, k1, s1, d1, actTrue): # ch_in, ch_out, kernel, stride, dilation, activationInitialize Depth-wise convolution with given parameters.super().__init__(c1, c2, k, s, gmath.gcd(c1, c2), dd, actact) 四、手把手教你添加HGNetV2
这里不需要改动什么如果你的版本是老版本的没有集成RT-DETR的版本那么大家可以下载一个新版本可以参考其中的怎么改我这里就不在描述否则拉下某一步在导致大家报错。 4. 1 HGNetV2-l的yaml文件(此为对比试验版本)
# Ultralytics YOLO , AGPL-3.0 license
# YOLOv8 object detection model with P3-P5 outputs. For Usage examples see https://docs.ultralytics.com/tasks/detect# Parameters
nc: 80 # number of classes
scales: # model compound scaling constants, i.e. modelyolov8n.yaml will call yolov8.yaml with scale n# [depth, width, max_channels]n: [0.33, 0.25, 1024] # YOLOv8n summary: 225 layers, 3157200 parameters, 3157184 gradients, 8.9 GFLOPss: [0.33, 0.50, 1024] # YOLOv8s summary: 225 layers, 11166560 parameters, 11166544 gradients, 28.8 GFLOPsm: [0.67, 0.75, 768] # YOLOv8m summary: 295 layers, 25902640 parameters, 25902624 gradients, 79.3 GFLOPsl: [1.00, 1.00, 512] # YOLOv8l summary: 365 layers, 43691520 parameters, 43691504 gradients, 165.7 GFLOPsx: [1.00, 1.25, 512] # YOLOv8x summary: 365 layers, 68229648 parameters, 68229632 gradients, 258.5 GFLOPs# YOLOv8.0n backbone
backbone:# [from, repeats, module, args]- [-1, 1, HGStem, [32, 48]] # 0-P2/4- [-1, 6, HGBlock, [48, 128, 3]] # stage 1- [-1, 1, DWConv, [128, 3, 2, 1, False]] # 2-P3/8- [-1, 6, HGBlock, [96, 512, 3]] # stage 2- [-1, 1, DWConv, [512, 3, 2, 1, False]] # 4-P3/16- [-1, 6, HGBlock, [192, 1024, 5, True, False]] # cm, c2, k, light, shortcut- [-1, 6, HGBlock, [192, 1024, 5, True, True]]- [-1, 6, HGBlock, [192, 1024, 5, True, True]] # stage 3- [-1, 1, DWConv, [1024, 3, 2, 1, False]] # 8-P4/32- [-1, 6, HGBlock, [384, 2048, 5, True, False]] # stage 4- [-1, 1, SPPF, [1024, 5]] # 10# YOLOv8.0n head
head:- [-1, 1, nn.Upsample, [None, 2, nearest]]- [[-1, 7], 1, Concat, [1]] # cat backbone P4- [-1, 3, C2f, [512]] # 13- [-1, 1, nn.Upsample, [None, 2, nearest]]- [[-1, 3], 1, Concat, [1]] # cat backbone P3- [-1, 3, C2f, [256]] # 16 (P3/8-small)- [-1, 1, Conv, [256, 3, 2]]- [[-1, 13], 1, Concat, [1]] # cat head P4- [-1, 3, C2f, [512]] # 19 (P4/16-medium)- [-1, 1, Conv, [512, 3, 2]]- [[-1, 10], 1, Concat, [1]] # cat head P5- [-1, 3, C2f, [1024]] # 22 (P5/32-large)- [[16, 19, 22], 1, Detect, [nc]] # Detect(P3, P4, P5)4.2 HGNetV2-x的yaml文件
# Ultralytics YOLO , AGPL-3.0 license
# YOLOv8 object detection model with P3-P5 outputs. For Usage examples see https://docs.ultralytics.com/tasks/detect# Parameters
nc: 80 # number of classes
scales: # model compound scaling constants, i.e. modelyolov8n.yaml will call yolov8.yaml with scale n# [depth, width, max_channels]n: [0.33, 0.25, 1024] # YOLOv8n summary: 225 layers, 3157200 parameters, 3157184 gradients, 8.9 GFLOPss: [0.33, 0.50, 1024] # YOLOv8s summary: 225 layers, 11166560 parameters, 11166544 gradients, 28.8 GFLOPsm: [0.67, 0.75, 768] # YOLOv8m summary: 295 layers, 25902640 parameters, 25902624 gradients, 79.3 GFLOPsl: [1.00, 1.00, 512] # YOLOv8l summary: 365 layers, 43691520 parameters, 43691504 gradients, 165.7 GFLOPsx: [1.00, 1.25, 512] # YOLOv8x summary: 365 layers, 68229648 parameters, 68229632 gradients, 258.5 GFLOPs# YOLOv8.0n backbone
backbone:# [from, repeats, module, args]
backbone:# [from, repeats, module, args]- [-1, 1, HGStem, [32, 64]] # 0-P2/4- [-1, 6, HGBlock, [64, 128, 3]] # stage 1- [-1, 1, DWConv, [128, 3, 2, 1, False]] # 2-P3/8- [-1, 6, HGBlock, [128, 512, 3]]- [-1, 6, HGBlock, [128, 512, 3, False, True]] # 4-stage 2- [-1, 1, DWConv, [512, 3, 2, 1, False]] # 5-P3/16- [-1, 6, HGBlock, [256, 1024, 5, True, False]] # cm, c2, k, light, shortcut- [-1, 6, HGBlock, [256, 1024, 5, True, True]]- [-1, 6, HGBlock, [256, 1024, 5, True, True]]- [-1, 6, HGBlock, [256, 1024, 5, True, True]]- [-1, 6, HGBlock, [256, 1024, 5, True, True]] # 10-stage 3- [-1, 1, DWConv, [1024, 3, 2, 1, False]] # 11-P4/32- [-1, 6, HGBlock, [512, 2048, 5, True, False]]- [-1, 6, HGBlock, [512, 2048, 5, True, True]] # 13-stage 4- [-1, 1, SPPF, [1024, 5]] # 14# YOLOv8.0n head
head:- [-1, 1, nn.Upsample, [None, 2, nearest]] # 15- [[-1, 10], 1, Concat, [1]] # cat backbone P4- [-1, 3, C2f, [512]] # 16- [-1, 1, nn.Upsample, [None, 2, nearest]]- [[-1, 4], 1, Concat, [1]] # cat backbone P3- [-1, 3, C2f, [256]] # 19 (P3/8-small)- [-1, 1, Conv, [256, 3, 2]]- [[-1, 16], 1, Concat, [1]] # cat head P4- [-1, 3, C2f, [512]] # 22 (P4/16-medium)- [-1, 1, Conv, [512, 3, 2]]- [[-1, 14], 1, Concat, [1]] # cat head P5- [-1, 3, C2f, [1024]] # 25 (P5/32-large)- [[19, 22, 25], 1, Detect, [nc]] # Detect(P3, P4, P5)五、运行成功记录 六、本文总结
到此本文的正式分享内容就结束了在这里给大家推荐我的YOLOv8改进有效涨点专栏本专栏目前为新开的平均质量分98分后期我会根据各种最新的前沿顶会进行论文复现也会对一些老的改进机制进行补充目前本专栏免费阅读(暂时大家尽早关注不迷路~)如果大家觉得本文帮助到你了订阅本专栏关注后续更多的更新~ 专栏回顾YOLOv8改进系列专栏——本专栏持续复习各种顶会内容——科研必备
