手机网站一键分享到微信,泰安房产查询系统,企业网站怎么建设,好的网站建设启示注意力机制的用法与思考
好多同学问我加了CA注意力机制#xff0c;CBAM注意力机制#xff0c;都没有涨点#xff0c;然后就在不停地换不同的注意力机制#xff0c;其实并不是这样的。今天和大家讨论一下注意力机制的用法与思考。
#xff08;一#xff09;添加位置
大…注意力机制的用法与思考
好多同学问我加了CA注意力机制CBAM注意力机制都没有涨点然后就在不停地换不同的注意力机制其实并不是这样的。今天和大家讨论一下注意力机制的用法与思考。
一添加位置
大家的注意力机制都加在哪里呢
以YOLOv8为例说几个可能性
1.backbone所有的卷积后面这就包括conv和c2f后面
2.head所有的卷积后面
3.back所有的conv后面
4.backbone所有的c2f后面
5.head所有的conv后面
6.head所有的c2f后面
7.SPPF后面
8.所有的c2f后面
9.所有的conv后面
10.所有的c2f和conv后面
简单列举了一下几个位置大家可以回想一下自己做实验如何做的是不是只是固定位置不断地去换注意力机制呢不妨就用一个注意力机制去不断的尝试总会有提升的当然这些实验结果要保存这都是可以写到论文里的消融实验部分能增加工作量也使自己添加的位置能够有理由进行去说明。
二拼接位置
大家知道YOLOv8有好几层需要拼接这就涉及到一个问题比如下面这个配置文件 大家可以看到其实第21层的拼接有两种选择一种是连接到第9层的SPPF一种是第10层的CA注意力机制链接不同地方结果肯定会不同。
三添加方式
想必各位同学一般会在yaml添加我给大家提供一下一个新的思路比如下图 我们可以在c2f的某一个卷积后面加上注意力机制这样yaml配置文件就不需要发生任何改变而且效果其实和在yaml文件添加也不会一样具体效果如何大家需要自己尝试。
四思考
果其实和在yaml文件添加也不会一样具体效果如何大家需要自己尝试。
四思考
今天给大家列举了几种添加方式希望大家能够找到自己的想法比如我可以将注意力机制融入到SPPF里面?在c2f第二个卷积后面添加还有就是其他模型也同理我们改进的模块也同理改进大家常常会全部替换不妨试试只替换backbone或者head或许涨点更高呢等等等等这些都是注意力机制的常见用法不知大家看了这篇文章有没有收获呢。
