ترجمه فارسی مقاله تست مرز سیستم یادگیری عمیق از طریق ترکیب سبک فضای پنهان

چکیده

Evaluating the behavioral frontier of deep learning (DL) systems is crucial for understanding their generalizability and robustness. However, boundary testing is challenging due to their high-dimensional input space. Generative artificial intelligence offers a promising solution by modeling data distribution within compact latent space representations, thereby facilitating finer-grained explorations. In this work, we introduce MIMICRY, a novel black-box system-agnostic test generator that leverages these latent representations to generate frontier inputs for the DL systems under test. Specifically, MIMICRY uses style-based generative adversarial networks trained to learn the representation of inputs with disentangled features. This representation enables embedding style-mixing operations between a source and a target input, combining their features to explore the boundary between them. We evaluated the effectiveness of different MIMICRY configurations in generating boundary inputs for four popular DL image classification systems. Our results show that manipulating the latent space allows for effective and efficient exploration of behavioral frontiers. As opposed to a model-based baseline, MIMICRY generates a higher quality frontier of behaviors which includes more and closer inputs. Additionally, we assessed the validity of these inputs, revealing a high validity rate according to human assessors.

چکیده به فارسی (ترجمه ماشینی)

ارزیابی مرزهای رفتاری سیستم های یادگیری عمیق (DL) برای درک تعمیم پذیری و استحکام آنها بسیار مهم است.با این حال ، آزمایش مرزی به دلیل فضای ورودی با ابعاد بالا چالش برانگیز است.هوش مصنوعی تولیدی با مدل سازی توزیع داده ها در بازنمودهای فضای نهفته جمع و جور ، یک راه حل امیدوارکننده ارائه می دهد و از این طریق کاوش های ریز دانه را تسهیل می کند.در این کار ، ما Mimicry را معرفی می کنیم ، یک ژنراتور تست آگنوستیک سیستم-جعبه سیاه و سفید که از این بازنمودهای نهفته استفاده می کند تا ورودی های مرزی را برای سیستم های DL تحت آزمایش تولید کند.به طور خاص ، Mimicry از شبکه های مخالف مولد مبتنی بر سبک استفاده می کند که برای یادگیری بازنمایی ورودی ها با ویژگی های جدا شده آموزش دیده اند.این نمایندگی امکان تعبیه سبک را بین یک منبع و یک ورودی هدف امکان پذیر می کند و ویژگی های آنها را برای کشف مرز بین آنها ترکیب می کند.ما اثربخشی تنظیمات تقلید مختلف در تولید ورودی های مرزی برای چهار سیستم طبقه بندی تصویر DL محبوب را ارزیابی کردیم.نتایج ما نشان می دهد که دستکاری در فضای نهفته امکان اکتشاف مؤثر و کارآمد مرزهای رفتاری را فراهم می کند.برخلاف یک پایه مبتنی بر مدل ، MIMICRY مرز با کیفیت بالاتری از رفتارها ایجاد می کند که شامل ورودی های بیشتر و نزدیکتر می شود.علاوه بر این ، ما اعتبار این ورودی ها را ارزیابی کردیم و میزان اعتبار بالایی را با توجه به ارزیابی کنندگان انسانی نشان دادیم.