ترجمه فارسی مقاله نظریه تقریب جهانی: مبانی موازی‌سازی در شبکه‌های عصبی

چکیده

Neural networks are increasingly evolving towards training large models with big data, a method that has demonstrated superior performance across many tasks. However, this approach introduces an urgent problem: current deep learning models are predominantly serial, meaning that as the number of network layers increases, so do the training and inference times. This is unacceptable if deep learning is to continue advancing. Therefore, this paper proposes a deep learning parallelization strategy based on the Universal Approximation Theorem (UAT). From this foundation, we designed a parallel network called Para-Former to test our theory. Unlike traditional serial models, the inference time of Para-Former does not increase with the number of layers, significantly accelerating the inference speed of multi-layer networks. Experimental results validate the effectiveness of this network.

چکیده به فارسی (ترجمه ماشینی)

شبکه های عصبی به طور فزاینده ای به سمت آموزش مدلهای بزرگ با داده های بزرگ در حال تحول هستند ، روشی که عملکرد برتر را در بسیاری از کارها نشان داده است.با این حال ، این رویکرد یک مشکل فوری را به وجود می آورد: مدل های یادگیری عمیق فعلی عمدتاً سریال هستند ، به این معنی که با افزایش تعداد لایه های شبکه ، زمان آموزش و استنباط نیز انجام می شود.اگر یادگیری عمیق به پیشرفت ادامه یابد ، این غیرقابل قبول است.بنابراین ، این مقاله یک استراتژی موازی سازی عمیق یادگیری مبتنی بر قضیه تقریبی جهانی (UAT) را ارائه می دهد.از این بنیاد ، ما یک شبکه موازی به نام Para-Former طراحی کردیم تا نظریه خود را آزمایش کنیم.بر خلاف مدل های سریال سنتی ، زمان استنباط پاراگراف با تعداد لایه ها افزایش نمی یابد و سرعت استنتاج شبکه های چند لایه را به میزان قابل توجهی تسریع می کند.نتایج تجربی اثربخشی این شبکه را تأیید می کند.