ترجمه فارسی مقاله الگوریتم خود-کنتراست رو به جلو

چکیده

The Forward-Forward (FF) algorithm is a recent, purely forward-mode learning method, that updates weights locally and layer-wise and supports supervised as well as unsupervised learning. These features make it ideal for applications such as brain-inspired learning, low-power hardware neural networks, and distributed learning in large models. However, while FF has shown promise on written digit recognition tasks, its performance on natural images and time-series remains a challenge. A key limitation is the need to generate high-quality negative examples for contrastive learning, especially in unsupervised tasks, where versatile solutions are currently lacking. To address this, we introduce the Self-Contrastive Forward-Forward (SCFF) method, inspired by self-supervised contrastive learning. SCFF generates positive and negative examples applicable across different datasets, surpassing existing local forward algorithms for unsupervised classification accuracy on MNIST (MLP: 98.7%), CIFAR-10 (CNN: 80.75%), and STL-10 (CNN: 77.3%). Additionally, SCFF is the first to enable FF training of recurrent neural networks, opening the door to more complex tasks and continuous-time video and text processing.

چکیده به فارسی (ترجمه ماشینی)

الگوریتم رو به جلو (FF) یک روش یادگیری اخیر و کاملاً رو به جلو است که وزنهای محلی و لایه ای را به روز می کند و از یادگیری تحت نظارت و همچنین بدون نظارت پشتیبانی می کند.این ویژگی ها آن را برای برنامه هایی مانند یادگیری الهام گرفته از مغز ، شبکه های عصبی سخت افزاری کم قدرت و یادگیری توزیع شده در مدل های بزرگ ایده آل می کند.با این حال ، در حالی که FF نوید خود را در مورد وظایف تشخیص رقم کتبی نشان داده است ، عملکرد آن در تصاویر طبیعی و سری زمانی همچنان یک چالش است.یک محدودیت اصلی نیاز به تولید نمونه های منفی با کیفیت بالا برای یادگیری متضاد ، به ویژه در کارهای بدون نظارت ، جایی که در حال حاضر راه حل های همه کاره در آن وجود ندارد.برای پرداختن به این موضوع ، ما روش خودکشی به جلو (SCFF) را معرفی می کنیم ، با الهام از یادگیری متضاد خودکارد.SCFF نمونه های مثبت و منفی را در مجموعه داده های مختلف ایجاد می کند ، و از الگوریتم های محلی پیش رو برای دقت طبقه بندی بدون نظارت بر MNIST (MLP: 98.7 ٪) ، Cifar-10 (CNN: 80.75 ٪) و STL-10 (CNN: 77.3 ٪) استفاده می کند.علاوه بر این ، SCFF اولین کسی است که می تواند آموزش FF شبکه های عصبی مکرر را فعال کند ، درهای کارهای پیچیده تر و پردازش ویدیویی و متن را به موقع باز کند.