HeadlinesBriefing favicon HeadlinesBriefing.com

مرور ورقة CBAM: آلية الانتباه المزدوج

Towards Data Science •
×

تستعرض هذه المقالة وتنفيذ ورقة CBAM (وحدة انتباه الكتلة التلافيفية) لـ Woo et al. [1]. الصادرة في 2018، تُحسّن CBAM جودة ميزات CNN من خلال آلية انتباه مزدوجة، مسبقة لمحول الرؤية (ViT) الذي قدم في 2020. تظل ذات صلة بسبب تصميمها الخفيف الوزن، مما يجعلها مناسبة للنشر منخفض الطاقة.

تحسّن CBAM على SENet (شبكة الضغط والإثارة) بإضافة انتباه مكاني. بينما يطبق SENet الانتباه فقط عبر القنوات، يُقدّم CBAM وحدتين فرعيتين: وحدة انتباه القناة (CAM) ووحدة انتباه المكان (SAM). تستخدم CAM كلًا من التجميع العام المتوسط والتجميع العام الأقصى، تليها MLP مشتركة بنسبة تقليل، لتوليد أوزان القناة. تطبّق SAM التجميع الأقصى والمتوسط عبر القنوات، ثم طبقة تلافيفية لإنتاج خريطة انتباه مكاني.

يحتفظ المخرجات المُحسّنة بأبعاد텐زور الدخل (C×H×W)، مما يسمح بالتكامل السلس في أي بنية عظمى. يُظهر التنفيذ باستخدام PyTorch، مقدّماً دليلاً عملياً لتطبيق هذا الآلية المزدوجة للانتباه على مهام رؤية الحاسوب.

الكيانات الرئيسية: الشركات: Towards Data Science | الأشخاص: Woo et al.

الأسئلة الشائعة: كيف يختلف CBAM عن SENet في آليات الانتباه؟

يُمّد CBAM SENet بإضافة وحدة انتباه المكان (SAM) بجانب وحدة انتباه القناة (CAM)، مما يتيح weighting مكاني على مستوى البكسل بالإضافة إلى weighting القناة.