ترجمه فارسی مقاله شکستن موانع کلاس: تقطیر کارآمد مجموعه داده از طریق جبران کننده ویژگی های بین کلاسی

چکیده

Dataset distillation has emerged as a technique aiming to condense informative features from large, natural datasets into a compact and synthetic form. While recent advancements have refined this technique, its performance is bottlenecked by the prevailing class-specific synthesis paradigm. Under this paradigm, synthetic data is optimized exclusively for a pre-assigned one-hot label, creating an implicit class barrier in feature condensation. This leads to inefficient utilization of the distillation budget and oversight of inter-class feature distributions, which ultimately limits the effectiveness and efficiency, as demonstrated in our analysis. To overcome these constraints, this paper presents the Inter-class Feature Compensator (INFER), an innovative distillation approach that transcends the class-specific data-label framework widely utilized in current dataset distillation methods. Specifically, INFER leverages a Universal Feature Compensator (UFC) to enhance feature integration across classes, enabling the generation of multiple additional synthetic instances from a single UFC input. This significantly improves the efficiency of the distillation budget. Moreover, INFER enriches inter-class interactions during the distillation, thereby enhancing the effectiveness and generalizability of the distilled data. By allowing for the linear interpolation of labels similar to those in the original dataset, INFER meticulously optimizes the synthetic data and dramatically reduces the size of soft labels in the synthetic dataset to almost zero, establishing a new benchmark for efficiency and effectiveness in dataset distillation.

چکیده به فارسی (ترجمه ماشینی)

تقطیر مجموعه داده ها به عنوان یک تکنیک با هدف متراکم کردن ویژگی های آموزنده از مجموعه داده های بزرگ و طبیعی به یک شکل جمع و جور و مصنوعی ظاهر شده است.در حالی که پیشرفت های اخیر این تکنیک را تصفیه کرده است ، عملکرد آن توسط پارادایم سنتز خاص کلاس غالب است.تحت این الگوی ، داده های مصنوعی منحصراً برای یک برچسب یک داغ از پیش تعیین شده بهینه می شوند و یک مانع کلاس ضمنی در تراکم ویژگی ایجاد می کنند.این منجر به استفاده ناکارآمد از بودجه تقطیر و نظارت بر توزیع ویژگی های بین طبقه ، که در نهایت اثربخشی و کارآیی را محدود می کند ، همانطور که در تجزیه و تحلیل ما نشان داده شده است.برای غلبه بر این محدودیت ها ، در این مقاله ، جبران کننده ویژگی بین کلاس (استنباط) ، یک رویکرد تقطیر نوآورانه که از چارچوب برچسب داده خاص کلاس فراتر می رود ، به طور گسترده در روش های تقطیر مجموعه داده های فعلی استفاده می شود.به طور خاص ، استنباط از یک جبران کننده ویژگی جهانی (UFC) برای تقویت ادغام ویژگی در کلاس ها استفاده می کند ، و باعث می شود تولید چندین نمونه مصنوعی اضافی از یک ورودی UFC واحد باشد.این به طور قابل توجهی باعث افزایش کارایی بودجه تقطیر می شود.علاوه بر این ، استنباط تعامل بین کلاس را در طول تقطیر غنی سازی می کند ، در نتیجه اثربخشی و تعمیم داده های مقطر را افزایش می دهد.با اجازه دادن به درون یابی خطی برچسب های مشابه با نمونه های موجود در مجموعه داده های اصلی ، استنباط دقیق داده های مصنوعی را بهینه می کند و اندازه برچسب های نرم را در مجموعه داده های مصنوعی به تقریباً صفر کاهش می دهد و یک معیار جدید برای کارآیی و اثربخشی در تقطیر مجموعه داده ها ایجاد می کند.