ترجمه فارسی مقاله یک مطالعه مقایسه‌ای تجربی از پس‌انتشار و جایگزین‌ها برای آموزش شبکه‌های عصبی دودویی برای طبقه‌بندی تصویر

چکیده

Current artificial neural networks are trained with parameters encoded as floating point numbers that occupy lots of memory space at inference time. Due to the increase in the size of deep learning models, it is becoming very difficult to consider training and using artificial neural networks on edge devices. Binary neural networks promise to reduce the size of deep neural network models, as well as to increase inference speed while decreasing energy consumption. Thus, they may allow the deployment of more powerful models on edge devices. However, binary neural networks are still proven to be difficult to train using the backpropagation-based gradient descent scheme. This paper extends the work of cite{crulis2023alternatives}, which proposed adapting to binary neural networks two promising alternatives to backpropagation originally designed for continuous neural networks, and experimented with them on simple image classification datasets. This paper proposes new experiments on the ImageNette dataset, compares three different model architectures for image classification, and adds two additional alternatives to backpropagation.

چکیده به فارسی (ترجمه ماشینی)

شبکه های عصبی مصنوعی فعلی با پارامترهای رمزگذاری شده به عنوان شماره های نقطه شناور که فضای حافظه زیادی را در زمان استنتاج اشغال می کنند ، آموزش داده می شوند.با توجه به افزایش اندازه مدلهای یادگیری عمیق ، در نظر گرفتن آموزش و استفاده از شبکه های عصبی مصنوعی در دستگاه های لبه بسیار دشوار است.شبکه های عصبی باینری قول می دهند اندازه مدلهای شبکه های عصبی عمیق و همچنین افزایش سرعت استنتاج را در حالی که باعث کاهش مصرف انرژی می شوند ، کاهش دهند.بنابراین ، آنها ممکن است امکان استقرار مدل های قدرتمندتر در دستگاه های لبه را فراهم کنند.با این حال ، شبکه های عصبی باینری هنوز هم ثابت شده است که آموزش استفاده از طرح نزول شیب مبتنی بر پشتوانه دشوار است.این مقاله کار cite {crulis2023alternatives} را گسترش می دهد ، که پیشنهاد می کند با شبکه های عصبی باینری دو گزینه جایگزین برای بازگشت به عقب را که در ابتدا برای شبکه های عصبی مداوم طراحی شده است ، ارائه می دهد و در مجموعه داده های طبقه بندی تصویر ساده آزمایش می کند.در این مقاله آزمایش های جدیدی در مجموعه داده های Imagenette ارائه شده است ، سه معماری مدل مختلف را برای طبقه بندی تصویر مقایسه می کند و دو گزینه دیگر را برای بازگشت به عقب اضافه می کند.