ترجمه فارسی مقاله گروه‌های شکافت شبکه‌ای برای خود-گروه‌های کم‌هزینه

چکیده

Recent ensemble learning methods for image classification have been shown to improve classification accuracy with low extra cost. However, they still require multiple trained models for ensemble inference, which eventually becomes a significant burden when the model size increases. In this paper, we propose a low-cost ensemble learning and inference, called Network Fission Ensembles (NFE), by converting a conventional network itself into a multi-exit structure. Starting from a given initial network, we first prune some of the weights to reduce the training burden. We then group the remaining weights into several sets and create multiple auxiliary paths using each set to construct multi-exits. We call this process Network Fission. Through this, multiple outputs can be obtained from a single network, which enables ensemble learning. Since this process simply changes the existing network structure to multi-exits without using additional networks, there is no extra computational burden for ensemble learning and inference. Moreover, by learning from multiple losses of all exits, the multi-exits improve performance via regularization, and high performance can be achieved even with increased network sparsity. With our simple yet effective method, we achieve significant improvement compared to existing ensemble methods. The code is available at https://github.com/hjdw2/NFE.

چکیده به فارسی (ترجمه ماشینی)

روشهای اخیر یادگیری گروه برای طبقه بندی تصویر نشان داده شده است که دقت طبقه بندی را با هزینه اضافی پایین بهبود می بخشد.با این حال ، آنها هنوز هم برای استنباط گروه به مدل های آموزش دیده متعدد نیاز دارند ، که در نهایت با افزایش اندازه مدل به یک بار قابل توجه تبدیل می شود.در این مقاله ، ما با تبدیل یک شبکه معمولی به یک ساختار چندتایی ، یک گروه یادگیری و استنباط کم هزینه ، به نام گروه های شکافت شبکه (NFE) را پیشنهاد می کنیم.با شروع از یک شبکه اولیه خاص ، ابتدا برخی از وزنها را هرس می کنیم تا بار تمرین را کاهش دهیم.سپس وزنهای باقیمانده را به چندین مجموعه گروه بندی می کنیم و با استفاده از هر مجموعه چندین مسیر کمکی ایجاد می کنیم تا بتوانیم چند نمونه را بسازیم.ما این شکافت شبکه فرآیند را می نامیم.از این طریق ، چندین خروجی را می توان از یک شبکه واحد بدست آورد ، که امکان یادگیری گروه را فراهم می کند.از آنجا که این فرآیند به سادگی ساختار شبکه موجود را بدون استفاده از شبکه های اضافی به Multi-Exits تغییر می دهد ، هیچ بار محاسباتی اضافی برای یادگیری و استنباط گروه وجود ندارد.علاوه بر این ، با آموختن از ضررهای متعدد همه خروجی ها ، چند اگزات عملکرد را از طریق تنظیم تنظیم بهبود می بخشد و حتی با افزایش کمبود شبکه می توان عملکرد بالا را نیز بدست آورد.با روش ساده و در عین حال مؤثر ، ما در مقایسه با روش های گروه موجود به پیشرفت قابل توجهی دست می یابیم.کد در https://github.com/hjdw2/nfe در دسترس است.