YOLOv5改進之添加SE注意力機制的詳細過程
前言:
作為當前先進的深度學習目標檢測算法YOLOv5,已經(jīng)集合了大量的trick,但是在處理一些復(fù)雜背景問題的時候,還是容易出現(xiàn)錯漏檢的問題。此后的系列文章,將重點對YOLOv5的如何改進進行詳細的介紹,目的是為了給那些搞科研的同學需要創(chuàng)新點或者搞工程項目的朋友需要達到更好的效果提供自己的微薄幫助和參考。
解決問題:
加入SE通道注意力機制,可以讓網(wǎng)絡(luò)更加關(guān)注待檢測目標,提高檢測效果
SE模塊的原理和結(jié)構(gòu)
添加方法:
第一步:確定添加的位置,作為即插即用的注意力模塊,可以添加到Y(jié)OLOv5網(wǎng)絡(luò)中的任何地方。本文以添加進C3模塊中為例。
第二步:common.py構(gòu)建融入se模塊的C3,與原C3模塊不同的是,該模塊中的bottleneck中融入se模塊。這樣添加主要為了更好的做實驗。
class seC3(nn.Module): # CSP Bottleneck with 3 convolutions def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5): # ch_in, ch_out, number, shortcut, groups, expansion super(seC3, self).__init__() c_ = int(c2 * e) # hidden channels self.cv1 = Conv(c1, c_, 1, 1) self.cv2 = Conv(c1, c_, 1, 1) self.cv3 = Conv(2 * c_, c2, 1) # act=FReLU(c2) self.m = nn.Sequential(*[seBottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)]) # self.m = nn.Sequential(*[CrossConv(c_, c_, 3, 1, g, 1.0, shortcut) for _ in range(n)]) def forward(self, x): return self.cv3(torch.cat((self.m(self.cv1(x)), self.cv2(x)), dim=1)) class seBottleneck(nn.Module): # Standard bottleneck def __init__(self, c1, c2, shortcut=True, g=1, e=0.5): # ch_in, ch_out, shortcut, groups, expansion super(seBottleneck, self).__init__() c_ = int(c2 * e) # hidden channels self.cv1 = Conv(c1, c_, 1, 1) self.cv2 = Conv(c_, c2, 3, 1, g=g) self.add = shortcut and c1 == c2 self.avgpool = nn.AdaptiveAvgPool2d(1) self.l1 = nn.Linear(c1, c1 // 4, bias=False) self.relu = nn.ReLU(inplace=True) self.l2 = nn.Linear(c1 // 4, c1, bias=False) self.sig = nn.Sigmoid() def forward(self, x): x = self.cv1(x) b, c, _, _ = x.size() y = self.avgpool(x).view(b, c) y = self.l1(y) y = self.relu(y) y = self.l2(y) y = self.sig(y) y = y.view(b, c, 1, 1) x = x * y.expand_as(x) return x + self.cv2(x) if self.add else self.cv2(self.cv1(x))
第三步:yolo.py中注冊我們進行修改的seC3
if m in [Conv, GhostConv, Bottleneck, Bottleneck_cot,TransformerC3,GhostBottleneck, SPP, DWConv, MixConv2d, Focus, CrossConv, BottleneckCSP, C3,seC3]: c1, c2 = ch[f], args[0] if c2 != no: # if not output c2 = make_divisible(c2 * gw, 8) args = [c1, c2, *args[1:]] if m in [BottleneckCSP, seC3]: args.insert(2, n) # number of repeats n = 1
第四步:修改yaml文件,本文以修改主干特征提取網(wǎng)絡(luò)為例,將原C3模塊改為seC3即可。
第五步:將train.py中改為本文的yaml文件即可,開始訓練。
結(jié)果:
本人在多個數(shù)據(jù)集上做了大量實驗,針對不同的數(shù)據(jù)集效果不同,同一個數(shù)據(jù)集的不同添加位置方法也是有差異,需要大家進行實驗。有效果有提升的情況占大多數(shù)。
PS:SE通道注意力機制,參數(shù)量引入較少,不僅僅是可以添加進YOLOv5,也可以添加進任何其他的深度學習網(wǎng)絡(luò),不管是分類還是檢測還是分割,主要是計算機視覺領(lǐng)域,都可能會有不同程度的提升效果。
總結(jié)
到此這篇關(guān)于YOLOv5改進之添加SE注意力機制的文章就介紹到這了,更多相關(guān)YOLOv5添加SE注意力機制內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
numpy.transpose對三維數(shù)組的轉(zhuǎn)置方法
下面小編就為大家分享一篇numpy.transpose對三維數(shù)組的轉(zhuǎn)置方法,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2018-04-04使用Jest?在?Visual?Studio?Code?中進行單元測試的流程分析
Jest是一個流行的JavaScript測試框架,它提供了簡潔、靈活和強大的工具來編寫和運行單元測試,今天通過本文給大家介紹使用Jest在Visual Studio Code中進行單元測試的流程分析,感興趣的朋友跟隨小編一起看看吧2023-07-07python遞歸調(diào)用中的坑:打印有值, 返回卻None
這篇文章主要介紹了python遞歸調(diào)用中的坑:打印有值, 返回卻None,本文通過問題分析給出解決方法,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-03-03python+requests接口壓力測試500次,查看響應(yīng)時間的實例
這篇文章主要介紹了python+requests接口壓力測試500次,查看響應(yīng)時間的實例,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-04-04