> For the complete documentation index, see [llms.txt](https://hhu-leons-organization.gitbook.io/uav_lodboost_docs/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://hhu-leons-organization.gitbook.io/uav_lodboost_docs/user-guide/tian-jia-zhu-yi-li-ji-zhi.md).

# 添加注意力机制

### 各种注意力模块优缺点

{% tabs %}
{% tab title="SENet" %}
**优点：**\
可以通过学习**自适应的通道权重**，使得模型更加关注有用的通道信息。\
**缺点：**\
SE注意力机制**只考虑了通道维度上的注意力，无法捕捉空间维度上的注意力**，适用于通道数较多的场景，但对于通道数较少的情况可能不如其他注意力机制。
{% endtab %}

{% tab title="CBAM" %}
**优点：**\
结合了**卷积**和**注意力机制**，可以从**空间**和**通道**两个方面上对图像进行关注。\
**缺点：**\
需要更多的计算资源，计算复杂度更高。
{% endtab %}

{% tab title="ECANet" %}
**优点：**\
可以同时考虑**通道维度**和**空间维度上**的注意力，对于特征图尺寸较大的场景下，计算效率较高。\
**缺点：**\
需要额外的计算，因此对于较小的特征图，可能会有较大的计算开销。
{% endtab %}

{% tab title="CA" %}
**优点：**\
可以同时考虑**通道维度**和**空间维度上**的注意力，并且可以通过学习自适应的通道权重，使得模型更加关注有用的通道信息。\
**缺点：**\
需要额外的计算，计算开销较大。另外，由于需要对整个特征图进行注意力权重的计算，因此**无法捕捉长距离的依赖关系**。
{% endtab %}

{% tab title="..." %}
Coming Soon！
{% endtab %}
{% endtabs %}

### 在模型中添加注意力模块

1. 设置备选注意力模块，在nets/yolo.py里添加如下代码：

```python
# -----------------------------------------------#
#   备选注意力模块列表
# -----------------------------------------------#
attention_bocks = [se_block, cbam_block, eca_block, CA_Block]
```

2. 添加加载模型时所需的选取注意力的参数，在nets/yolo.py里YoloBody类添加phi\_attention参数：（例如本例中，phi\_attention为0代表不使用注意力机制，1-4代表上述备选列表中的4个模块）

```python
def __init__(self, anchors_mask, num_classes, phi, pretrained=False, phi_attention=0, pruned=1):
```

3. 在模型中添加注意力模块（本例所示为在P3层添加注意力模块，类型通过phi\_attention参数指定，您可自行根据需要修改）：
   * 在\_\_init\_\_函数中进行注意力模块的初始化

     ```
     # -----------------------------------------------#
     #     注意力初始化
     # -----------------------------------------------#
     self.phi_attention = phi_attention

     if phi_attention >= 1 and phi_attention <= 4:
         self.P3_attention = attention_bocks[phi_attention - 1](128) # 128为通道数
     ```
   * 在forward中选择需要插入注意力的位置，例如在特征金字塔P3层后添加注意力机制

     ```python
     # 80, 80, 256 => 80, 80, 128
     P3 = self.conv3_for_upsample2(P3)

     if 1 <= self.phi <= 4:
         P3 = self.P3_attention(P3)

     # 80, 80, 128 => 40, 40, 256
     P3_downsample = self.down_sample1(P3)
     ```

### 使用注意力模块改进的模型

1. 在train.py中模型创建部分修改phi\_attention参数，按照上节所述步骤训练模型。

   ```python
   #------------------------------------------------------#
   #   创建yolo模型
   #------------------------------------------------------#
   model = YoloBody(anchors_mask, num_classes, phi, pretrained=pretrained, phi_attention=0)
   ```

   ```python
   ```
2. 在yolo.py中修改phi\_attention参数，加载训练后的权重即可正常使用改进后的模型。

   ```python
   #---------------------------------------------------#
   #   生成模型
   #---------------------------------------------------#
   def generate(self, onnx=False):
       #---------------------------------------------------#
       #   建立yolo模型，载入yolo模型的权重
       #---------------------------------------------------#
       self.net    = YoloBody(self.anchors_mask, self.num_classes, self.phi, pretrained=False, phi_attention=0)Py
   ```