Dieser Artikel überprüft und implementiert den CBAM-Paper (Convolutional Block Attention Module) von Woo et al. [1]. Veröffentlicht im 2018, verbessert CBAM die CNN-Feature-Qualität durch einen doppelten Aufmerksamkeitsmechanismus, vor der Einführung des Vision Transformers (ViT) im 2020. Aufgrund seines leichten Designs bleibt es relevant für Niedrigleistungsanwendungen.

CBAM verbessert SENet (Squeeze-and-Excitation-Netzwerk), indem es räumliche Aufmerksamkeit hinzufügt. Während SENet Aufmerksamkeit nur über Kanäle anwendet, führt CBAM zwei Untermodule ein: das Kanalaufmerksamkeitsmodul (CAM) und das räumliche Aufmerksamkeitsmodul (SAM). CAM verwendet sowohl globale Durchschnitts-Pooling als auch globale Max-Pooling, gefolgt von einem gemeinsamen MLP mit einem Reduktionsverhältnis, um Kanalgewichte zu erzeugen. SAM wendet Max-Pooling und Durchschnitts-Pooling über Kanäle an, gefolgt von einer Faltungsschicht, um eine räumliche Aufmerksamkeitskarte zu erzeugen.

Die verfeinerte Ausgabe behält die Dimensionen des Eingabetensors (C×H×W) bei, wodurch eine nahtlose Integration in jede Backbone-Architektur möglich ist. Die Implementierung wird mit PyTorch demonstriert, was eine praktische Anleitung zur Anwendung dieses doppelten Aufmerksamkeitsmechanismus auf Computer-Vision-Aufgaben bietet.

Wichtige Entitäten: Unternehmen: Towards Data Science | Personen: Woo et al.

Häufig gestellte Fragen: Wie unterscheidet sich CBAM von SENet in den Aufmerksamkeitsmechanismen?

CBAM erweitert SENet, indem es das räumliche Aufmerksamkeitsmodul (SAM) neben dem Kanalaufmerksamkeitsmodul (CAM) hinzufügt, was eine pixelweise räumliche Gewichtung zusätzlich zur kanalweisen Gewichtung ermöglicht.