本文回顾并实现 CBAM（卷积块注意力模块）论文由 Woo 等人 [1] 提出。发布于 2018 年，CBAM 通过双注意力机制增强 CNN 特征质量，早于 2020 年提出的视觉变换器（ViT）。由于其轻量化设计，CBAM 仍然具有相关性，适用于低功耗部署。

CBAM 在 SENet（挤压-激励网络）的基础上进行了改进，通过添加空间注意力机制。虽然 SENet 仅在通道维度上应用注意力，但 CBAM 引入了两个子模块：通道注意力模块（CAM）和空间注意力模块（SAM）。CAM 使用全局平均池化和全局最大池化，随后接一个共享的多层感知机（MLP），并带有降维比率，以生成通道权重。SAM 在通道维度上应用最大池化和平均池化，然后通过一个卷积层生成空间注意力图。

精炼后的输出保持输入张量的维度（C×H×W），使其能够无缝集成到任何骨干网络架构中。该实现使用 PyTorch 演示，为将此双注意力机制应用于计算机视觉任务提供了实用指南。

关键实体：公司：Towards Data Science | 人物：Woo 等人。

常见问题：CBAM 与 SENet 在注意力机制上的区别是什么？

CBAM 通过在通道注意力模块（CAM）旁添加空间注意力模块（SAM）来扩展 SENet，使其除了通道加权外，还能实现像素级空间加权。