ترجمه فارسی مقاله مدل‌های یادگیری عمیق پراکنده با منظم‌سازی $\ell_1$

چکیده

Sparse neural networks are highly desirable in deep learning in reducing its complexity. The goal of this paper is to study how choices of regularization parameters influence the sparsity level of learned neural networks. We first derive the $ell_1$-norm sparsity-promoting deep learning models including single and multiple regularization parameters models, from a statistical viewpoint. We then characterize the sparsity level of a regularized neural network in terms of the choice of the regularization parameters. Based on the characterizations, we develop iterative algorithms for selecting regularization parameters so that the weight parameters of the resulting deep neural network enjoy prescribed sparsity levels. Numerical experiments are presented to demonstrate the effectiveness of the proposed algorithms in choosing desirable regularization parameters and obtaining corresponding neural networks having both of predetermined sparsity levels and satisfactory approximation accuracy.

چکیده به فارسی (ترجمه ماشینی)

شبکه های عصبی پراکنده در یادگیری عمیق در کاهش پیچیدگی آن بسیار مطلوب هستند.هدف از این مقاله بررسی چگونگی تأثیر پارامترهای منظم بر میزان کمبود شبکه های عصبی آموخته شده است.ما ابتدا از یک دیدگاه آماری ، مدل های یادگیری عمیق $ el_1 $-norm-norm-prarmoting شامل مدل های پارامترهای تنظیم مجدد و چندگانه را استخراج می کنیم.سپس ما از نظر انتخاب پارامترهای منظم ، سطح کمبود یک شبکه عصبی منظم را توصیف می کنیم.بر اساس خصوصیات ، ما الگوریتم های تکراری را برای انتخاب پارامترهای منظم ایجاد می کنیم تا پارامترهای وزن شبکه عصبی عمیق حاصل از سطح پراکنده تجویز شده لذت ببرند.آزمایش های عددی برای نشان دادن اثربخشی الگوریتم های پیشنهادی در انتخاب پارامترهای تنظیم مطلوب و به دست آوردن شبکه های عصبی مربوطه با هر دو سطح از پیش تعیین شده از پیش تعیین شده و دقت تقریب رضایت بخش ارائه شده است.