ترجمه فارسی مقاله مهار کارخانه فرکانس شبکه‌های سینوسی

چکیده

This work investigates the structure and representation capacity of $sinusoidal$ MLPs, which have recently shown promising results in encoding low-dimensional signals. This success can be attributed to its smoothness and high representation capacity. The first allows the use of the network’s derivatives during training, enabling regularization. However, defining the architecture and initializing its parameters to achieve a desired capacity remains an empirical task. This work provides theoretical and experimental results justifying the capacity property of sinusoidal MLPs and offers control mechanisms for their initialization and training. We approach this from a Fourier series perspective and link the training with the model’s spectrum. Our analysis is based on a $harmonic$ expansion of the sinusoidal MLP, which says that the composition of sinusoidal layers produces a large number of new frequencies expressed as integer linear combinations of the input frequencies (weights of the input layer). We use this novel $identity$ to initialize the input neurons which work as a sampling in the signal spectrum. We also note that each hidden neuron produces the same frequencies with amplitudes completely determined by the hidden weights. Finally, we give an upper bound for these amplitudes, which results in a $bounding$ scheme for the network’s spectrum during training.

چکیده به فارسی (ترجمه ماشینی)

این کار به بررسی ساختار و ظرفیت نمایندگی MLP های $ $ $ $ ، که اخیراً نتایج امیدوارکننده ای در رمزگذاری سیگنال های کم بعدی نشان داده اند ، بررسی شده است.این موفقیت را می توان به صافی و ظرفیت نمایندگی بالا نسبت داد.اولین مورد استفاده از مشتقات شبکه در طول آموزش را امکان پذیر می کند و امکان تنظیم را فراهم می کند.با این حال ، تعریف معماری و اولیه سازی پارامترهای آن برای دستیابی به ظرفیت مورد نظر ، یک کار تجربی است.این کار نتایج نظری و تجربی را توجیه می کند که ویژگی ظرفیت MLP های سینوسی را توجیه می کند و مکانیسم های کنترل را برای اولیه سازی و آموزش آنها ارائه می دهد.ما از دیدگاه سری فوریه به این نزدیک می شویم و آموزش را با طیف مدل پیوند می دهیم.تجزیه و تحلیل ما مبتنی بر گسترش $ $ Harmonic از MLP سینوسی است ، که می گوید ترکیب لایه های سینوسی تعداد زیادی از فرکانس های جدید را به عنوان ترکیب خطی عدد صحیح از فرکانس های ورودی (وزن لایه ورودی) تولید می کند.ما از این رمان $ $ $ برای اولیه سازی نورونهای ورودی که به عنوان نمونه گیری در طیف سیگنال کار می کنند استفاده می کنیم.ما همچنین توجه می کنیم که هر نورون پنهان فرکانس های یکسانی را با دامنه هایی که کاملاً توسط وزنهای پنهان تعیین می شود ، تولید می کند.سرانجام ، ما برای این دامنه ها حد بالایی می دهیم ، که منجر به یک طرح $ $ برای طیف شبکه در طول آموزش می شود.