ترجمه فارسی مقاله بهبود همگرایی آموزش Pinn Bayesian در حل PDE های چند مقیاس با سر و صدا

چکیده

Bayesian Physics Informed Neural Networks (BPINN) have received considerable attention for inferring differential equations’ system states and physical parameters according to noisy observations. However, in practice, Hamiltonian Monte Carlo (HMC) used to estimate the internal parameters of BPINN often encounters troubles, including poor performance and awful convergence for a given step size used to adjust the momentum of those parameters. To improve the efficacy of HMC convergence for the BPINN method and extend its application scope to multi-scale partial differential equations (PDE), we developed a robust multi-scale Bayesian PINN (dubbed MBPINN) method by integrating multi-scale deep neural networks (MscaleDNN) and Bayesian inference. In this newly proposed MBPINN method, we reframe HMC with Stochastic Gradient Descent (SGD) to ensure the most “likely” estimation is always provided, and we configure its solver as a Fourier feature mapping-induced MscaleDNN. The MBPINN method offers several key advantages: (1) it is more robust than HMC, (2) it incurs less computational cost than HMC, and (3) it is more flexible for complex problems. We demonstrate the applicability and performance of the proposed method through general Poisson and multi-scale elliptic problems in one- to three-dimensional spaces. Our findings indicate that the proposed method can avoid HMC failures and provide valid results. Additionally, our method can handle complex PDE and produce comparable results for general PDE. These findings suggest that our proposed approach has excellent potential for physics-informed machine learning for parameter estimation and solution recovery in the case of ill-posed problems.

چکیده به فارسی (ترجمه ماشینی)

فیزیک بیزی شبکه های عصبی (BPINN) برای استنباط حالت های سیستم معادلات دیفرانسیل و پارامترهای فیزیکی با توجه به مشاهدات پر سر و صدا ، توجه قابل توجهی را به خود جلب کرده اند.با این حال ، در عمل ، Hamiltonian Monte Carlo (HMC) برای برآورد پارامترهای داخلی BPINN اغلب با مشکلات روبرو می شود ، از جمله عملکرد ضعیف و همگرایی افتضاح برای اندازه مرحله معین که برای تنظیم حرکت آن پارامترها استفاده می شود.برای بهبود اثربخشی همگرایی HMC برای روش BPINN و گسترش دامنه کاربرد آن به معادلات دیفرانسیل جزئی چند مقیاس (PDE) ، ما با ادغام شبکه های عصبی عمیق چند مقیاس (Dubbed MBPINN) یک روش قوی چند مقیاس بیزی (Dubbed MBPINN) تهیه کردیم (ما یک روش قوی چند مقیاس Bayesian (Dubbed MBPINN) را تهیه کردیم.MSCALEDNN) و استنباط بیزی.در این روش تازه پیشنهادی MBPINN ، ما HMC را با نزول شیب تصادفی (SGD) تغییر می دهیم تا اطمینان حاصل شود که “احتمالاً” تخمین همیشه ارائه شده است ، و ما حل کننده آن را به عنوان یک MSSCALEDNN ناشی از نقشه برداری از ویژگی های فوریه پیکربندی می کنیم.روش MBPINN چندین مزیت کلیدی را ارائه می دهد: (1) از HMC قوی تر است ، (2) هزینه محاسباتی کمتری نسبت به HMC متحمل می شود ، و (3) برای مشکلات پیچیده انعطاف پذیر تر است.ما کاربرد و عملکرد روش پیشنهادی را از طریق مشکلات بیضوی عمومی پواسون و چند مقیاس در فضاهای یک تا سه بعدی نشان می دهیم.یافته های ما نشان می دهد که روش پیشنهادی می تواند از خرابی HMC جلوگیری کند و نتایج معتبری ارائه دهد.علاوه بر این ، روش ما می تواند PDE پیچیده را اداره کند و نتایج قابل مقایسه ای را برای PDE عمومی تولید کند.این یافته ها نشان می دهد که رویکرد پیشنهادی ما از پتانسیل عالی برای یادگیری ماشین آگاهی از فیزیک برای برآورد پارامترها و بازیابی راه حل در صورت بروز مشکلات بدبختی برخوردار است.