ترجمه فارسی مقاله دفاع خصمانه جهانی با حفظ حریم خصوصی برای مدل های جعبه سیاه

چکیده

Deep neural networks (DNNs) are increasingly used in critical applications such as identity authentication and autonomous driving, where robustness against adversarial attacks is crucial. These attacks can exploit minor perturbations to cause significant prediction errors, making it essential to enhance the resilience of DNNs. Traditional defense methods often rely on access to detailed model information, which raises privacy concerns, as model owners may be reluctant to share such data. In contrast, existing black-box defense methods fail to offer a universal defense against various types of adversarial attacks. To address these challenges, we introduce DUCD, a universal black-box defense method that does not require access to the target model’s parameters or architecture. Our approach involves distilling the target model by querying it with data, creating a white-box surrogate while preserving data privacy. We further enhance this surrogate model using a certified defense based on randomized smoothing and optimized noise selection, enabling robust defense against a broad range of adversarial attacks. Comparative evaluations between the certified defenses of the surrogate and target models demonstrate the effectiveness of our approach. Experiments on multiple image classification datasets show that DUCD not only outperforms existing black-box defenses but also matches the accuracy of white-box defenses, all while enhancing data privacy and reducing the success rate of membership inference attacks.

چکیده به فارسی (ترجمه ماشینی)

شبکه های عصبی عمیق (DNN) به طور فزاینده ای در برنامه های مهم مانند تأیید هویت و رانندگی خودمختار مورد استفاده قرار می گیرند ، جایی که استحکام در برابر حملات مخالف بسیار مهم است.این حملات می تواند از آشفتگی های جزئی برای ایجاد خطاهای پیش بینی قابل توجهی بهره برداری کند ، و این امر باعث افزایش مقاومت در برابر DNN ها می شود.روشهای دفاعی سنتی اغلب به دسترسی به اطلاعات مدل دقیق متکی هستند ، که نگرانی های مربوط به حریم خصوصی را ایجاد می کند ، زیرا صاحبان مدل ممکن است تمایلی به به اشتراک گذاری چنین داده هایی نداشته باشند.در مقابل ، روشهای دفاعی موجود در جعبه سیاه نمی تواند دفاع جهانی را در برابر انواع مختلف حملات مخالف ارائه دهد.برای پرداختن به این چالش ها ، ما DUCD را معرفی می کنیم ، یک روش دفاعی جهانی با جعبه سیاه که نیازی به دسترسی به پارامترها یا معماری مدل هدف ندارد.رویکرد ما شامل تقطیر مدل هدف با پرس و جو با داده ها ، ایجاد یک جانشین جعبه سفید ضمن حفظ حریم خصوصی داده ها است.ما بیشتر این مدل جانشین را با استفاده از یک دفاع معتبر بر اساس هموار سازی تصادفی و انتخاب نویز بهینه شده ، تقویت می کنیم و دفاع قوی را در برابر طیف گسترده ای از حملات مخالف امکان پذیر می کنیم.ارزیابی های مقایسه ای بین دفاع های معتبر از مدلهای جانشین و هدف ، اثربخشی رویکرد ما را نشان می دهد.آزمایشات در مجموعه داده های طبقه بندی تصویر چندگانه نشان می دهد که DUCD نه تنها از دفاع های موجود در جعبه سیاه بهتر عمل می کند بلکه با دقت دفاع های جعبه سفید نیز مطابقت دارد ، همه در حالی که باعث افزایش حریم خصوصی داده ها و کاهش میزان موفقیت حملات استنتاج عضویت می شود.