HeadlinesBriefing favicon HeadlinesBriefing.com

CBAM पेपर वॉकथ्रू: डबल-अटेंशन मैकेनिज्म

Towards Data Science •
×

इस लेख में CBAM (कॉन्वोल्यूशनल ब्लॉक अटेंशन मॉड्यूल) पेपर की समीक्षा और कार्यान्वयन Woo et al. [1] द्वारा किया गया है। इसे 2018 में जारी किया गया था, CBAM डुअल अटेंशन मैकेनिज्म के माध्यम से CNN फीचर गुणवत्ता को बढ़ाता है, जो 2020 में पेश किए गए विज़न ट्रांसफ़ॉर्मर (ViT) से पहले है। इसका हल्का डिज़ाइन होने के कारण यह अभी भी प्रासंगिक है, जिससे यह कम शक्ति वाले डिप्लॉयमेंट के लिए उपयुक्त बनता है।

CBAM SENet (स्क्वीज़-एंड-एक्साइटेशन नेटवर्क) पर सुधार करता है, जिसमें स्पेशियल अटेंशन जोड़ा गया है। जबकि SENet केवल चैनलों में ध्यान लगाता है, CBAM दो उप-मॉड्यूल पेश करता है: चैनल अटेंशन मॉड्यूल (CAM) और स्पेशियल अटेंशन मॉड्यूल (SAM)। CAM ग्लोबल एवरेज-पूलिंग और ग्लोबल मैक्स-पूलिंग दोनों का उपयोग करता है, जिसके बाद एक शेयर्ड MLP आता है जिसमें एक रिडक्शन अनुपात होता है, जिससे चैनल वजन उत्पन्न होते हैं। SAM चैनलों में मैक्स और एवरेज पूलिंग लागू करता है, फिर एक कॉन्वोल्यूशन लेयर लगाता है ताकि स्पेशियल अटेंशन मैप उत्पन्न हो सके।

सुधारित आउटपुट इनपुट टेंसर के आयामों (C×H×W) को बरकरार रखता है, जिससे किसी भी बैकबोन आर्किटेक्चर में सहज एकीकरण संभव हो जाता है। कार्यान्वयन PyTorch के उपयोग से दिखाया गया है, जो कंप्यूटर विज़न कार्यों में इस डबल-अटेंशन मैकेनिज्म को लागू करने के लिए एक व्यावहारिक गाइड प्रदान करता है।

मुख्य एंटिटीज़: कंपनियाँ: Towards Data Science | लोग: Woo et al.

अक्सर पूछे जाने वाले प्रश्न: CBAM SENet से अटेंशन मैकेनिज्म में कैसे अलग है?

CBAM, चैनल अटेंशन मॉड्यूल (CAM) के साथ स्पेशियल अटेंशन मॉड्यूल (SAM) जोड़कर SENet को बढ़ाता है, जिससे चैनल-वार वजनिंग के अलावा पिक्सेल-लेवल स्पेशियल वजनिंग भी सक्षम होती है।