ترجمه فارسی مقاله محاسبه‌پذیری طبقه‌بندی و یادگیری عمیق: از محدودیت‌های نظری تا امکان‌پذیری عملی از طریق کوانتیزاسیون

چکیده

The unwavering success of deep learning in the past decade led to the increasing prevalence of deep learning methods in various application fields. However, the downsides of deep learning, most prominently its lack of trustworthiness, may not be compatible with safety-critical or high-responsibility applications requiring stricter performance guarantees. Recently, several instances of deep learning applications have been shown to be subject to theoretical limitations of computability, undermining the feasibility of performance guarantees when employed on real-world computers. We extend the findings by studying computability in the deep learning framework from two perspectives: From an application viewpoint in the context of classification problems and a general limitation viewpoint in the context of training neural networks. In particular, we show restrictions on the algorithmic solvability of classification problems that also render the algorithmic detection of failure in computations in a general setting infeasible. Subsequently, we prove algorithmic limitations in training deep neural networks even in cases where the underlying problem is well-behaved. Finally, we end with a positive observation, showing that in quantized versions of classification and deep network training, computability restrictions do not arise or can be overcome to a certain degree.

چکیده به فارسی (ترجمه ماشینی)

موفقیت بی بدیل یادگیری عمیق در دهه گذشته منجر به شیوع روزافزون روشهای یادگیری عمیق در زمینه های مختلف کاربردی شد.با این حال ، نقاط ضعف یادگیری عمیق ، برجسته ترین عدم اعتماد به نفس آن ، ممکن است با برنامه های ایمنی یا مسئولیت پذیری بالا سازگار نباشد که نیاز به تضمین عملکرد سختگیرانه تر دارند.اخیراً ، چندین مورد از برنامه های یادگیری عمیق نشان داده شده است که در معرض محدودیت های نظری محاسبه قرار می گیرند و امکان سنجی تضمین های عملکرد را هنگام استفاده در رایانه های دنیای واقعی تضعیف می کنند.ما با مطالعه محاسبه در چارچوب یادگیری عمیق از دو منظر یافته ها را گسترش می دهیم: از دیدگاه برنامه در زمینه مشکلات طبقه بندی و دیدگاه محدودیت کلی در زمینه آموزش شبکه های عصبی.به طور خاص ، ما محدودیت هایی را در مورد زنده بودن الگوریتمی مشکلات طبقه بندی نشان می دهیم که همچنین باعث تشخیص الگوریتمی عدم موفقیت در محاسبات در یک تنظیم کلی می شود.پس از آن ، ما محدودیت های الگوریتمی را در آموزش شبکه های عصبی عمیق حتی در مواردی که مشکل اساسی به خوبی رفتار می شود ، اثبات می کنیم.سرانجام ، ما با یک مشاهده مثبت به پایان می رسیم ، نشان می دهد که در نسخه های کمکی طبقه بندی و آموزش شبکه عمیق ، محدودیت های محاسباتی بوجود نمی آیند یا می توان تا حد معینی برطرف شد.