ترجمه فارسی مقاله نزول گوس-نیوتن افزایشی برای یادگیری ماشین

چکیده

Stochastic Gradient Descent (SGD) is a popular technique used to solve problems arising in machine learning. While very effective, SGD also has some weaknesses and various modifications of the basic algorithm have been proposed in order to at least partially tackle them, mostly yielding accelerated versions of SGD. Filling a gap in the literature, we present a modification of the SGD algorithm exploiting approximate second-order information based on the Gauss-Newton approach. The new method, which we call Incremental Gauss-Newton Descent (IGND), has essentially the same computational burden as standard SGD, appears to converge faster on certain classes of problems, and can also be accelerated. The key intuition making it possible to implement IGND efficiently is that, in the incremental case, approximate second-order information can be condensed into a scalar value that acts as a scaling constant of the update. We derive IGND starting from the theory supporting Gauss-Newton methods in a general setting and then explain how IGND can also be interpreted as a well-scaled version of SGD, which makes tuning the algorithm simpler, and provides increased robustness. Finally, we show how IGND can be used in practice by solving supervised learning tasks as well as reinforcement learning problems. The simulations show that IGND can significantly outperform SGD while performing at least as well as SGD in the worst case.

چکیده به فارسی (ترجمه ماشینی)

نزول شیب تصادفی (SGD) یک تکنیک محبوب است که برای حل مشکلات ناشی از یادگیری ماشین استفاده می شود.در حالی که بسیار مؤثر است ، SGD همچنین ضعف هایی دارد و اصلاحات مختلفی از الگوریتم اساسی به منظور حداقل مقابله با آنها ارائه شده است ، که بیشتر نسخه های شتاب دهنده SGD است.با پر کردن شکاف در ادبیات ، ما اصلاح الگوریتم SGD را که از اطلاعات تقریبی مرتبه دوم بر اساس رویکرد گاوس-نیوتن بهره می برد ، ارائه می دهیم.روش جدید ، که ما آن را نزول افزایشی گاوس-نیوتن (IGND) می نامیم ، اساساً همان بار محاسباتی را با SGD استاندارد دارد ، به نظر می رسد که در کلاسهای خاصی از مشکلات سریعتر همگرا می شود و همچنین می تواند تسریع شود.شهود کلیدی که امکان اجرای کارآمد IGND را فراهم می کند این است که ، در مورد افزایشی ، اطلاعات تقریبی مرتبه دوم را می توان به یک مقدار مقیاس پذیر متراکم کرد که به عنوان ثابت مقیاس به روزرسانی عمل می کند.ما از IGND شروع می کنیم از تئوری حمایت از روشهای گاوس-نیوتن در یک تنظیم کلی و سپس توضیح می دهیم که چگونه IGND را می توان به عنوان یک نسخه خوب از SGD تفسیر کرد ، که تنظیم الگوریتم را ساده تر می کند و استحکام بیشتری را فراهم می کند.سرانجام ، ما نشان می دهیم که چگونه می توان با حل وظایف یادگیری تحت نظارت و همچنین مشکلات یادگیری تقویت ، در عمل در عمل استفاده کرد.شبیه سازی ها نشان می دهد که IGND می تواند به طور قابل توجهی از SGD نسبت به حداقل عملکرد و همچنین SGD در بدترین حالت بهتر عمل کند.