ترجمه فارسی مقاله استنتاج رمزگذار از پیش آموزش‌دیده: آشکارسازی رمزگذارهای بالادست در سرویس‌های یادگیری ماشین پایین‌دست

چکیده

Though pre-trained encoders can be easily accessed online to build downstream machine learning (ML) services quickly, various attacks have been designed to compromise the security and privacy of these encoders. While most attacks target encoders on the upstream side, it remains unknown how an encoder could be threatened when deployed in a downstream ML service. This paper unveils a new vulnerability: the Pre-trained Encoder Inference (PEI) attack, which posts privacy threats toward encoders hidden behind downstream ML services. By only providing API accesses to a targeted downstream service and a set of candidate encoders, the PEI attack can infer which encoder is secretly used by the targeted service based on candidate ones. We evaluate the attack performance of PEI against real-world encoders on three downstream tasks: image classification, text classification, and text-to-image generation. Experiments show that the PEI attack succeeds in revealing the hidden encoder in most cases and seldom makes mistakes even when the hidden encoder is not in the candidate set. We also conducted a case study on one of the most recent vision-language models, LLaVA, to illustrate that the PEI attack is useful in assisting other ML attacks such as adversarial attacks. The code is available at https://github.com/fshp971/encoder-inference.

چکیده به فارسی (ترجمه ماشینی)

اگرچه رمزگذارهای از قبل آموزش دیده می توانند به راحتی به صورت آنلاین برای ساختن خدمات یادگیری ماشین پایین دست (ML) به راحتی دسترسی پیدا کنند ، حملات مختلفی برای به خطر انداختن امنیت و حریم خصوصی این رمزگذارها طراحی شده است.در حالی که بیشتر حملات رمزگذارهای هدف را در سمت بالادست هدف قرار می دهند ، مشخص نیست که چگونه یک رمزگذار هنگام اعزام در یک سرویس ML پایین دست می تواند تهدید شود.این مقاله از آسیب پذیری جدید پرده برداری می کند: حمله استنتاج رمزگذار از پیش آموزش دیده (PEI) ، که تهدیدهای حریم خصوصی را به سمت رمزگذارها پنهان می کند که در پشت خدمات پایین دست ML پنهان شده اند.فقط با ارائه دسترسی API به یک سرویس پایین دست هدفمند و مجموعه ای از رمزگذارهای نامزد ، حمله PEI می تواند استنباط کند که رمزگذار مخفیانه توسط سرویس هدفمند بر اساس نامزدها استفاده می شود.ما عملکرد حمله PEI را در برابر رمزگذارهای دنیای واقعی در سه وظیفه پایین دست ارزیابی می کنیم: طبقه بندی تصویر ، طبقه بندی متن و تولید متن به تصویر.آزمایشات نشان می دهد که حمله PEI در اکثر موارد موفق به آشکار کردن رمزگذار پنهان می شود و به ندرت اشتباه می کند حتی اگر رمزگذار پنهان در مجموعه نامزد نباشد.ما همچنین یک مطالعه موردی را در مورد یکی از جدیدترین مدلهای بینایی زبان ، Llava انجام دادیم تا نشان دهیم که حمله PEI در کمک به سایر حملات ML مانند حملات مخالف مفید است.کد در https://github.com/fshp971/encoder-inference در دسترس است.