ترجمه فارسی مقاله AdapMTL: چارچوب هرس تطبیقی ​​برای مدل یادگیری چندوظیفه‌ای

چکیده

In the domain of multimedia and multimodal processing, the efficient handling of diverse data streams such as images, video, and sensor data is paramount. Model compression and multitask learning (MTL) are crucial in this field, offering the potential to address the resource-intensive demands of processing and interpreting multiple forms of media simultaneously. However, effectively compressing a multitask model presents significant challenges due to the complexities of balancing sparsity allocation and accuracy performance across multiple tasks. To tackle these challenges, we propose AdapMTL, an adaptive pruning framework for MTL models. AdapMTL leverages multiple learnable soft thresholds independently assigned to the shared backbone and the task-specific heads to capture the nuances in different components’ sensitivity to pruning. During training, it co-optimizes the soft thresholds and MTL model weights to automatically determine the suitable sparsity level at each component to achieve both high task accuracy and high overall sparsity. It further incorporates an adaptive weighting mechanism that dynamically adjusts the importance of task-specific losses based on each task’s robustness to pruning. We demonstrate the effectiveness of AdapMTL through comprehensive experiments on popular multitask datasets, namely NYU-v2 and Tiny-Taskonomy, with different architectures, showcasing superior performance compared to state-of-the-art pruning methods.

چکیده به فارسی (ترجمه ماشینی)

در حوزه پردازش چندرسانه ای و چند مدلی ، کارآمد جریان داده های متنوع مانند تصاویر ، فیلم و داده های سنسور مهم است.فشرده سازی مدل و یادگیری چند وظیفه ای (MTL) در این زمینه بسیار مهم هستند و این پتانسیل را برای رفع مطالبات فشرده منابع برای پردازش و تفسیر اشکال مختلف رسانه به طور همزمان ارائه می دهند.با این حال ، فشرده سازی یک مدل چند وظیفه ای به دلیل پیچیدگی های متعادل کردن تخصیص پراکندگی و عملکرد دقت در چندین کار ، چالش های قابل توجهی را ارائه می دهد.برای مقابله با این چالش ها ، ما ADAPMTL را پیشنهاد می کنیم ، یک چارچوب هرس تطبیقی ​​برای مدل های MTL.ADAPMTL چندین آستانه نرم و قابل یادگیری را به طور مستقل به ستون فقرات مشترک و سرهای خاص وظیفه اختصاص می دهد تا تفاوت های ظریف را در حساسیت مؤلفه های مختلف به هرس ضبط کنند.در حین تمرین ، آستانه های نرم و وزن مدل MTL را بهینه می کند تا به طور خودکار سطح مناسب پراکندگی را در هر مؤلفه تعیین کند تا هم به دقت کار بالا و هم به صورت کامل کل داشته باشد.علاوه بر این ، یک مکانیسم وزن سازگار را شامل می شود که به طور پویا اهمیت خسارات خاص کار را بر اساس استحکام هر کار به هرس تنظیم می کند.ما اثربخشی ADAPMTL را از طریق آزمایش های جامع در مجموعه داده های چند وظیفه ای محبوب ، یعنی NYU-V2 و Tiny-Taskonomy ، با معماری های مختلف نشان می دهیم ، عملکرد برتر را در مقایسه با روشهای پیشرفته آفرینی نشان می دهد.