نقدم PC-ALM، بديلاً محلياً للانتشار العكسي. يدرب PC-ALM شبكات MLP المتبقية حتى 1000 طبقة، ويكاد يضاهي أداء الانتشار العكسي على الرغم من استخدامه ديناميكيات محلية للطبقة فقط. يزوّد PC-ALM كل طبقة بنظام ديناميكي للتحكم بالتغذية الراجعة يوزع وينشر رصيد الإشراف عبر الشبكة.

يعتمد التعلم العميق القياسي على الانتشار العكسي. ومع ذلك، لا يستطيع الدماغ تنفيذ الانتشار العكسي بدقة. أحد الأسباب هو "قفل الطور": يعمل الانتشار العكسي في ثلاث مراحل صارمة—الأمام، الخلف، تحديث الأوزان—مما يتطلب من الخلايا العصبية الاحتفاظ بالتنشيطات وانتظار إشارات الخطأ. لا يملك الدماغ آلية معروفة لمثل هذا التنسيق الزمني الصارم.

يستبدل PC-ALM التمريرات الأمامية والخلفية بأنظمة ديناميكية محلية للطبقة. كل طبقة تقترن فقط بجيرانها. عند التشغيل حتى التقارب، توزع الديناميكيات رصيد الإشراف بسرعة ودقة. يوسّع PC-ALM الترميز التنبؤي القياسي (PC) بإدخال خلايا عصبية مزدوجة (مضاعفات لاغرانج) لكل طبقة، مما يجعل التكرار المحلي لكل طبقة وحدة تحكم تغذية راجعة PI. في الشبكات الخطية، تتقارب الخلايا العصبية المزدوجة إلى إشارات رصيد انتشار عكسي دقيقة على الرغم من استخدام الحساب المحلي فقط.

نقارن PC-ALM مع PC والانتشار العكسي. ينجح PC-ALM في نشر رصيد الإشراف في شبكات من 1000 طبقة، متغلباً على تلاشي الإشارة في PC مع البقاء محلياً للطبقة. قد يفيد هذا التعلم العميق الموفر للطاقة على الأجهزة العصبية المحاكية.

الكيانات الرئيسية: الشركات: Sakana AI | الأشخاص: Rao، Ballard، Helmholtz