ترجمه فارسی مقاله AIR: یکسو کننده عدم تعادل تحلیلی برای یادگیری مداوم

چکیده

Continual learning enables AI models to learn new data sequentially without retraining in real-world scenarios. Most existing methods assume the training data are balanced, aiming to reduce the catastrophic forgetting problem that models tend to forget previously generated data. However, data imbalance and the mixture of new and old data in real-world scenarios lead the model to ignore categories with fewer training samples. To solve this problem, we propose an analytic imbalance rectifier algorithm (AIR), a novel online exemplar-free continual learning method with an analytic (i.e., closed-form) solution for data-imbalanced class-incremental learning (CIL) and generalized CIL scenarios in real-world continual learning. AIR introduces an analytic re-weighting module (ARM) that calculates a re-weighting factor for each class for the loss function to balance the contribution of each category to the overall loss and solve the problem of imbalanced training data. AIR uses the least squares technique to give a non-discriminatory optimal classifier and its iterative update method in continual learning. Experimental results on multiple datasets show that AIR significantly outperforms existing methods in long-tailed and generalized CIL scenarios. The source code is available at https://github.com/fang-d/AIR.

چکیده به فارسی (ترجمه ماشینی)

یادگیری مداوم ، مدل های هوش مصنوعی را قادر می سازد تا داده های جدید را به صورت متوالی بدون بازآفرینی در سناریوهای دنیای واقعی بیاموزند.اکثر روشهای موجود فرض می کنند که داده های آموزش متعادل هستند ، با هدف کاهش مشکل فراموشی فاجعه بار که مدل ها تمایل به فراموش کردن داده های تولید شده قبلی دارند.با این حال ، عدم تعادل داده ها و مخلوط داده های جدید و قدیمی در سناریوهای دنیای واقعی ، مدل را به سمت نادیده گرفتن دسته هایی با نمونه های آموزش کمتری سوق می دهد.برای حل این مشکل ، ما یک الگوریتم یکسو کننده عدم تعادل تحلیلی (AIR) ، یک روش یادگیری مداوم بدون نمونه آنلاین با یک راه حل تحلیلی (یعنی شکل بسته) برای یادگیری کلاس تعادل داده (CIL) و CIL عمومی را پیشنهاد می کنیم.سناریوها در یادگیری مداوم در دنیای واقعی.AIR یک ماژول وزن مجدد تحلیلی (ARM) را معرفی می کند که یک عامل وزن مجدد را برای هر کلاس برای عملکرد از دست دادن محاسبه می کند تا سهم هر دسته از ضرر کلی را متعادل کند و مشکل داده های عدم تعادل را حل کند.هوا از کمترین تکنیک مربع برای ارائه یک طبقه بندی کننده بهینه غیر تبعیض آمیز و روش بروزرسانی تکراری آن در یادگیری مداوم استفاده می کند.نتایج تجربی در مجموعه داده های مختلف نشان می دهد که هوا به طور قابل توجهی از روشهای موجود در سناریوهای CIL بلند و عمومی استفاده می کند.کد منبع در https://github.com/fang-d/air در دسترس است.