हम PC-ALM प्रस्तुत करते हैं, जो बैकप्रॉपैगेशन का एक स्थानीय विकल्प है। PC-ALM 1000 परतों तक के रेसिडुअल MLP को प्रशिक्षित करता है, केवल परत-स्थानीय गतिशीलता का उपयोग करने के बावजूद बैकप्रॉप के प्रदर्शन से लगभग मेल खाता है। PC-ALM प्रत्येक परत को एक फीडबैक नियंत्रण गतिशील प्रणाली से सुसज्जित करता है जो पूरे नेटवर्क में पर्यवेक्षण क्रेडिट को वितरित और प्रसारित करती है।

मानक गहन शिक्षण बैकप्रॉपैगेशन पर निर्भर करता है। हालाँकि, मस्तिष्क बैकप्रॉपैगेशन को ठीक से लागू नहीं कर सकता। एक कारण "चरण लॉकिंग" है: बैकप्रॉप तीन सख्त चरणों में चलता है—आगे, पीछे, वजन अद्यतन—जिसके लिए न्यूरॉन्स को सक्रियण रखने और त्रुटि संकेतों की प्रतीक्षा करने की आवश्यकता होती है। मस्तिष्क में ऐसे सख्त समय समन्वय के लिए कोई ज्ञात तंत्र नहीं है।

PC-ALM आगे और पीछे के पास को परत-स्थानीय गतिशील प्रणालियों से बदल देता है। प्रत्येक परत केवल अपने पड़ोसियों से जुड़ती है। जब अभिसरण तक चलाया जाता है, तो गतिशीलता पर्यवेक्षण क्रेडिट को तेजी से और सटीक रूप से वितरित करती है। PC-ALM प्रत्येक परत में दोहरे न्यूरॉन्स (लैग्रेंज गुणक) पेश करके मानक प्रेडिक्टिव कोडिंग (PC) का विस्तार करता है, जिससे प्रत्येक परत की स्थानीय पुनरावृत्ति एक PI फीडबैक नियंत्रक बन जाती है। रैखिक नेटवर्क में, दोहरे न्यूरॉन्स केवल स्थानीय गणना का उपयोग करने के बावजूद सटीक बैकप्रॉप क्रेडिट संकेतों में परिवर्तित हो जाते हैं।

हम PC-ALM की तुलना PC और बैकप्रॉप से करते हैं। PC-ALM 1000-परत नेटवर्क में पर्यवेक्षण क्रेडिट का सफलतापूर्वक प्रसार करता है, परत-स्थानीय रहते हुए PC के संकेत क्षय को दूर करता है। यह न्यूरोमॉर्फिक हार्डवेयर पर ऊर्जा-कुशल गहन शिक्षण को सूचित कर सकता है।

मुख्य संस्थाएँ: कंपनियाँ: Sakana AI | लोग: Rao, Ballard, Helmholtz