ترجمه فارسی مقاله LaFA: حملات ویژگی نهفته به تجزیه ماتریس غیر منفی

چکیده

As Machine Learning (ML) applications rapidly grow, concerns about adversarial attacks compromising their reliability have gained significant attention. One unsupervised ML method known for its resilience to such attacks is Non-negative Matrix Factorization (NMF), an algorithm that decomposes input data into lower-dimensional latent features. However, the introduction of powerful computational tools such as Pytorch enables the computation of gradients of the latent features with respect to the original data, raising concerns about NMF’s reliability. Interestingly, naively deriving the adversarial loss for NMF as in the case of ML would result in the reconstruction loss, which can be shown theoretically to be an ineffective attacking objective. In this work, we introduce a novel class of attacks in NMF termed Latent Feature Attacks (LaFA), which aim to manipulate the latent features produced by the NMF process. Our method utilizes the Feature Error (FE) loss directly on the latent features. By employing FE loss, we generate perturbations in the original data that significantly affect the extracted latent features, revealing vulnerabilities akin to those found in other ML techniques. To handle large peak-memory overhead from gradient back-propagation in FE attacks, we develop a method based on implicit differentiation which enables their scaling to larger datasets. We validate NMF vulnerabilities and FE attacks effectiveness through extensive experiments on synthetic and real-world data.

چکیده به فارسی (ترجمه ماشینی)

از آنجا که برنامه های یادگیری ماشین (ML) به سرعت در حال رشد هستند ، نگرانی در مورد حملات مخالف که باعث به خطر انداختن قابلیت اطمینان آنها می شود ، توجه چشمگیری را به خود جلب کرده است.یک روش ML بدون نظارت که به دلیل مقاومت در برابر چنین حملاتی شناخته شده است ، فاکتور سازی ماتریس غیر منفی (NMF) است ، یک الگوریتم که داده های ورودی را به ویژگی های نهفته با ابعاد پایین تر تجزیه می کند.با این حال ، معرفی ابزارهای محاسباتی قدرتمند مانند Pytorch ، محاسبه شیب ویژگی های نهان را با توجه به داده های اصلی امکان پذیر می کند و نگرانی های مربوط به قابلیت اطمینان NMF را ایجاد می کند.جالب اینجاست که به طرز ساده لوحانه از دست دادن مخالف برای NMF ، زیرا در مورد ML منجر به از بین رفتن بازسازی می شود ، که می تواند از نظر تئوری نشان داده شود که یک هدف حمله کننده ناکارآمد است.در این کار ، ما یک کلاس جدید از حملات در NMF به نام Atteges Feature Latent (LAFA) را معرفی می کنیم ، که هدف آن دستکاری ویژگی های نهفته تولید شده توسط فرآیند NMF است.روش ما از ضرر خطای ویژگی (FE) به طور مستقیم بر روی ویژگی های نهفته استفاده می کند.با استفاده از از دست دادن آهن ، ما در داده های اصلی آشفتگی ایجاد می کنیم که به طور قابل توجهی بر ویژگی های نهفته استخراج شده تأثیر می گذارد و آسیب پذیری ها را شبیه به موارد موجود در سایر تکنیک های ML نشان می دهد.برای رسیدگی به سربار بزرگ اوج از پیشروی شیب در حملات آهن ، ما روشی را بر اساس تمایز ضمنی ایجاد می کنیم که مقیاس بندی آنها را به مجموعه داده های بزرگتر امکان پذیر می کند.ما آسیب پذیری های NMF و اثربخشی حمله آهن را از طریق آزمایش های گسترده در مورد داده های مصنوعی و واقعی در دنیای واقعی تأیید می کنیم.