ترجمه فارسی مقاله فروپاشی عصبی همه جانبه برای طبقه بندی نامتوازن

چکیده

Neural Collapse (NC) presents an elegant geometric structure that enables individual activations (features), class means and classifier (weights) vectors to reach \textit{optimal} inter-class separability during the terminal phase of training on a \textit{balanced} dataset. Once shifted to imbalanced classification, such an optimal structure of NC can be readily destroyed by the notorious \textit{minority collapse}, where the classifier vectors corresponding to the minority classes are squeezed. In response, existing works endeavor to recover NC typically by optimizing classifiers. However, we discover that this squeezing phenomenon is not only confined to classifier vectors but also occurs with class means. Consequently, reconstructing NC solely at the classifier aspect may be futile, as the feature means remain compressed, leading to the violation of inherent \textit{self-duality} in NC (\textit{i.e.}, class means and classifier vectors converge mutually) and incidentally, resulting in an unsatisfactory collapse of individual activations towards the corresponding class means. To shake off these dilemmas, we present a unified \textbf{All}-around \textbf{N}eural \textbf{C}ollapse framework (AllNC), aiming to comprehensively restore NC across multiple aspects including individual activations, class means and classifier vectors. We thoroughly analyze its effectiveness and verify on multiple benchmark datasets that it achieves state-of-the-art in both balanced and imbalanced settings.

چکیده به فارسی (ترجمه ماشینی)

فروپاشی عصبی (NC) یک ساختار هندسی ظریف را ارائه می دهد که فعال سازی های فردی (ویژگی ها) ، وسایل کلاس و طبقه بندی کننده (وزن) را قادر می سازد تا به \ textit {بهینه} جدایی بین کلاس در مرحله ترمینال آموزش در یک \ textit {متعادل} برسند.مجموعه دادهپس از جابجایی به طبقه بندی نامتعادل ، چنین ساختار بهینه NC را می توان به راحتی توسط بدنام \ textit {فروپاشی اقلیت} ، که در آن بردارهای طبقه بندی کننده مربوط به کلاس های اقلیت فشرده می شوند ، از بین ببرد.در پاسخ ، کارهای موجود تلاش می کند NC را به طور معمول با بهینه سازی طبقه بندی کننده ها بازیابی کند.با این حال ، ما می دانیم که این پدیده فشرده نه تنها محدود به بردارهای طبقه بندی کننده است بلکه با وسایل کلاس نیز رخ می دهد.در نتیجه ، بازسازی NC صرفاً در جنبه طبقه بندی کننده ممکن است بیهوده باشد ، زیرا این ویژگی به معنای فشرده شدن باقی می مانند و منجر به نقض ذاتی \ textit {خود بودن} در NC (\ textit {یعنی}} ، کلاس و بردارهای طبقه بندی شده متقابل می شود)و اتفاقاً ، منجر به فروپاشی نامطلوب از فعال سازی های فردی به سمت کلاس مربوطه می شود.برای تکان دادن این معضلات ، ما یک \ textbf {all} -around \ textbf {n} eural \ textbf {c} چارچوب ollapse (ALLNC) را ارائه می دهیم ، با هدف بازگرداندن جامع NC در چندین جنبه از جمله فعال سازی های فردی ، وسایل کلاس و کلاس کاربردیبردارهاما اثربخشی آن را به طور کامل تجزیه و تحلیل می کنیم و در مجموعه داده های معیار متعدد که در هر دو تنظیمات متعادل و نامتعادل به پیشرفته می رسد ، تأیید می کنیم.