مقاله یادگیری قبلی مبتنی بر داده برای بهینه سازی بیزی

چکیده

Transfer learning for Bayesian optimisation has generally assumed a strong similarity between optimisation tasks, with at least a subset having similar optimal inputs. This assumption can reduce computational costs, but it is violated in a wide range of optimisation problems where transfer learning may nonetheless be useful. We replace this assumption with a weaker one only requiring the shape of the optimisation landscape to be similar, and analyse the recent method Prior Learning for Bayesian Optimisation – PLeBO – in this setting. By learning priors for the hyperparameters of the Gaussian process surrogate model we can better approximate the underlying function, especially for few function evaluations. We validate the learned priors and compare to a breadth of transfer learning approaches, using synthetic data and a recent air pollution optimisation problem as benchmarks. We show that PLeBO and prior transfer find good inputs in fewer evaluations.

چکیده به فارسی (ترجمه ماشینی)

یادگیری انتقال برای بهینه سازی بیزی به طور کلی یک شباهت قوی بین وظایف بهینه سازی فرض کرده است که حداقل یک زیر مجموعه دارای ورودی های بهینه مشابه است.این فرض می تواند هزینه های محاسباتی را کاهش دهد ، اما در طیف گسترده ای از مشکلات بهینه سازی نقض می شود که در آن ممکن است یادگیری انتقال مفید باشد.ما این فرض را با یک ضعیف تر جایگزین می کنیم که فقط به شکل چشم انداز بهینه سازی نیاز دارد و روش اخیر قبلی را برای بهینه سازی بیزی – Plebo – در این تنظیم تجزیه و تحلیل می کنیم.با یادگیری مقدماتی برای هایپرپارامترهای مدل جانشین فرآیند گاوسی ، می توانیم عملکرد اساسی را به خصوص برای ارزیابی های عملکردی بهتر تقریب دهیم.ما مقدمات آموخته شده را تأیید می کنیم و با وسعت رویکردهای یادگیری انتقال ، با استفاده از داده های مصنوعی و یک مشکل بهینه سازی آلودگی هوا اخیر به عنوان معیارها مقایسه می کنیم.ما نشان می دهیم که Plebo و انتقال قبلی در ارزیابی های کمتری ورودی های خوبی را پیدا می کنند.