ترجمه فارسی مقاله CaBbaGe: استخراج مدل بدون داده با استفاده از گروه مولد متوازن ClAss

چکیده

Machine Learning as a Service (MLaaS) is often provided as a pay-per-query, black-box system to clients. Such a black-box approach not only hinders open replication, validation, and interpretation of model results, but also makes it harder for white-hat researchers to identify vulnerabilities in the MLaaS systems. Model extraction is a promising technique to address these challenges by reverse-engineering black-box models. Since training data is typically unavailable for MLaaS models, this paper focuses on the realistic version of it: data-free model extraction. We propose a data-free model extraction approach, CaBaGe, to achieve higher model extraction accuracy with a small number of queries. Our innovations include (1) a novel experience replay for focusing on difficult training samples; (2) an ensemble of generators for steadily producing diverse synthetic data; and (3) a selective filtering process for querying the victim model with harder, more balanced samples. In addition, we create a more realistic setting, for the first time, where the attacker has no knowledge of the number of classes in the victim training data, and create a solution to learn the number of classes on the fly. Our evaluation shows that CaBaGe outperforms existing techniques on seven datasets — MNIST, FMNIST, SVHN, CIFAR-10, CIFAR-100, ImageNet-subset, and Tiny ImageNet — with an accuracy improvement of the extracted models by up to 43.13%. Furthermore, the number of queries required to extract a clone model matching the final accuracy of prior work is reduced by up to 75.7%.

چکیده به فارسی (ترجمه ماشینی)

یادگیری ماشین به عنوان یک سرویس (MLAAS) اغلب به عنوان یک سیستم پرداخت در هر کمیت و سیاه و سفید به مشتریان ارائه می شود.چنین رویکرد جعبه سیاه نه تنها مانع تکثیر ، اعتبار سنجی و تفسیر نتایج مدل می شود ، بلکه شناسایی آسیب پذیری در سیستم های MLAAS را برای محققان کلاه سفید نیز سخت تر می کند.استخراج مدل یک تکنیک امیدوار کننده برای رفع این چالش ها توسط مدلهای جعبه سیاه و مهندسی معکوس است.از آنجا که داده های آموزش به طور معمول برای مدل های MLAAS در دسترس نیست ، این مقاله به نسخه واقع بینانه IT می پردازد: استخراج مدل بدون داده.ما برای دستیابی به دقت استخراج مدل بالاتر با تعداد کمی از نمایش داده ها ، یک روش استخراج مدل بدون داده ، کابین را پیشنهاد می کنیم.نوآوری های ما شامل (1) یک تجربه جدید برای تمرکز بر روی نمونه های آموزشی دشوار است.(2) گروهی از ژنراتورها برای تولید پیوسته داده های مصنوعی متنوع.و (3) یک فرآیند فیلتر انتخابی برای پرس و جو از مدل قربانی با نمونه های سخت تر و متعادل تر.علاوه بر این ، ما برای اولین بار یک محیط واقع بینانه تر ایجاد می کنیم ، جایی که مهاجم هیچ آگاهی از تعداد کلاس ها در داده های آموزش قربانی ندارد و راه حلی برای یادگیری تعداد کلاس های موجود در پرواز ایجاد می کند.ارزیابی ما نشان می دهد که کابژ از تکنیک های موجود در هفت مجموعه داده-MNIST ، FMNIST ، SVHN ، CIFAR-10 ، CIFAR-100 ، IMAGENET-SUBSET و Imagenet کوچک-با بهبود دقت مدل های استخراج شده با حداکثر 43.13 ٪ استفاده می کند.علاوه بر این ، تعداد پرس و جو مورد نیاز برای استخراج یک مدل کلون مطابق با دقت نهایی کار قبلی تا 75.7 ٪ کاهش می یابد.