ترجمه فارسی مقاله فشرده‌سازی و مقایسه: ارزیابی تعاملی کارایی و رفتار در آزمایش‌های فشرده‌سازی مدل یادگیری ماشین

چکیده

To deploy machine learning models on-device, practitioners use compression algorithms to shrink and speed up models while maintaining their high-quality output. A critical aspect of compression in practice is model comparison, including tracking many compression experiments, identifying subtle changes in model behavior, and negotiating complex accuracy-efficiency trade-offs. However, existing compression tools poorly support comparison, leading to tedious and, sometimes, incomplete analyses spread across disjoint tools. To support real-world comparative workflows, we develop an interactive visual system called Compress and Compare. Within a single interface, Compress and Compare surfaces promising compression strategies by visualizing provenance relationships between compressed models and reveals compression-induced behavior changes by comparing models’ predictions, weights, and activations. We demonstrate how Compress and Compare supports common compression analysis tasks through two case studies, debugging failed compression on generative language models and identifying compression artifacts in image classification models. We further evaluate Compress and Compare in a user study with eight compression experts, illustrating its potential to provide structure to compression workflows, help practitioners build intuition about compression, and encourage thorough analysis of compression’s effect on model behavior. Through these evaluations, we identify compression-specific challenges that future visual analytics tools should consider and Compress and Compare visualizations that may generalize to broader model comparison tasks.

چکیده به فارسی (ترجمه ماشینی)

برای استقرار مدل های یادگیری ماشین در دستگاه ، پزشکان از الگوریتم های فشرده سازی برای کوچک کردن و سرعت بخشیدن به مدل ها ضمن حفظ خروجی با کیفیت بالا استفاده می کنند.یک جنبه مهم فشرده سازی در عمل ، مقایسه مدل است ، از جمله ردیابی بسیاری از آزمایشات فشرده سازی ، شناسایی تغییرات ظریف در رفتار مدل و مذاکره در مورد معاملات با دقت و کارآیی پیچیده.با این حال ، ابزارهای فشرده سازی موجود از مقایسه ضعیف پشتیبانی می کنند و منجر به تجزیه و تحلیل های خسته کننده و گاه ناقص در ابزارهای جدا شده می شوند.برای پشتیبانی از گردش کار مقایسه ای در دنیای واقعی ، ما یک سیستم بصری تعاملی به نام کمپرس و مقایسه ایجاد می کنیم.در یک رابط واحد ، با تجسم روابط پیشرفتی بین مدلهای فشرده شده ، سطوح امیدوار کننده استراتژی های فشرده سازی را کمپرس و مقایسه می کند و تغییرات رفتار ناشی از فشرده سازی را با مقایسه پیش بینی ها ، وزن ها و فعال سازی ها نشان می دهد.ما نشان می دهیم که چگونه فشرده سازی و مقایسه از وظایف تجزیه و تحلیل فشرده سازی مشترک از طریق دو مطالعه موردی ، اشکال زدایی فشرده سازی ناموفق در مدل های زبان تولیدی و شناسایی مصنوعات فشرده سازی در مدل های طبقه بندی تصویر پشتیبانی می کند.ما بیشتر کمپرس را ارزیابی می کنیم و در یک مطالعه کاربر با هشت متخصص فشرده سازی مقایسه می کنیم ، و پتانسیل آن را برای ارائه ساختار در گردش کار فشرده سازی ، کمک به پزشکان به ایجاد شهود در مورد فشرده سازی و تشویق تجزیه و تحلیل کامل از تأثیر فشرده سازی بر رفتار مدل نشان می دهیم.از طریق این ارزیابی ها ، ما چالش های خاص فشرده سازی را شناسایی می کنیم که ابزارهای تحلیلی بصری در آینده باید در نظر بگیرند و تجسم هایی را که ممکن است در وظایف مقایسه مدل گسترده تر تعمیم یابد ، فشرده و مقایسه کنیم.