ترجمه فارسی مقاله XSub: حمله خصمانه مبتنی بر توضیح علیه طبقه بندی کننده های جعبه سیاه از طریق جایگزینی ویژگی

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی XSub: Explanation-Driven Adversarial Attack against Blackbox Classifiers via Feature Substitution
عنوان مقاله به فارسی XSub: حمله خصمانه مبتنی بر توضیح علیه طبقه بندی کننده های جعبه سیاه از طریق جایگزینی ویژگی
نویسندگان Kiana Vu, Phung Lai, Truc Nguyen
فرمت مقاله انگلیسی PDF
تعداد صفحات 9
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Artificial Intelligence,یادگیری ماشین , هوش مصنوعی ,
توضیحات Submitted 13 September, 2024; originally announced September 2024.
توضیحات به فارسی ارسال شده 13 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Despite its significant benefits in enhancing the transparency and trustworthiness of artificial intelligence (AI) systems, explainable AI (XAI) has yet to reach its full potential in real-world applications. One key challenge is that XAI can unintentionally provide adversaries with insights into black-box models, inevitably increasing their vulnerability to various attacks. In this paper, we develop a novel explanation-driven adversarial attack against black-box classifiers based on feature substitution, called XSub. The key idea of XSub is to strategically replace important features (identified via XAI) in the original sample with corresponding important features from a "golden sample" of a different label, thereby increasing the likelihood of the model misclassifying the perturbed sample. The degree of feature substitution is adjustable, allowing us to control how much of the original samples information is replaced. This flexibility effectively balances a trade-off between the attacks effectiveness and its stealthiness. XSub is also highly cost-effective in that the number of required queries to the prediction model and the explanation model in conducting the attack is in O(1). In addition, XSub can be easily extended to launch backdoor attacks in case the attacker has access to the models training data. Our evaluation demonstrates that XSub is not only effective and stealthy but also cost-effective, enabling its application across a wide range of AI models.

چکیده به فارسی (ترجمه ماشینی)

علیرغم فواید قابل توجه آن در تقویت شفافیت و اعتماد به نفس سیستم های هوش مصنوعی (AI) ، AI قابل توضیح (XAI) هنوز در برنامه های دنیای واقعی به پتانسیل کامل خود نرسیده است.یک چالش مهم این است که XAI می تواند به طور ناخواسته بینش در مورد مدل های جعبه سیاه را به طور ناخواسته به مخالفان ارائه دهد ، به ناچار آسیب پذیری آنها را در برابر حملات مختلف افزایش می دهد.در این مقاله ، ما یک حمله مخالف با توضیحات جدید علیه طبقه بندی کننده های جعبه سیاه را بر اساس تعویض ویژگی ، به نام XSUB ایجاد می کنیم.ایده اصلی XSUB جایگزینی استراتژیک ویژگی های مهم (شناسایی شده از طریق XAI) در نمونه اصلی با ویژگی های مهم مربوطه از "نمونه طلایی" از یک برچسب متفاوت است ، در نتیجه احتمال مدل نادرست طبقه بندی نمونه آشفته را افزایش می دهد.میزان تعویض ویژگی قابل تنظیم است و به ما امکان می دهد تا چه میزان از اطلاعات نمونه اصلی را جایگزین کنیم.این انعطاف پذیری به طور موثری تجارت بین اثربخشی حملات و خفا آن را متعادل می کند.XSUB همچنین بسیار مقرون به صرفه است زیرا تعداد نمایش داده های مورد نیاز مدل پیش بینی و مدل توضیح در انجام حمله در O (1) است.علاوه بر این ، در صورت دسترسی مهاجم به داده های آموزش مدل ، XSUB را می توان به راحتی برای پرتاب حملات پشتی گسترش داد.ارزیابی ما نشان می دهد که XSUB نه تنها مؤثر و مخفی است بلکه مقرون به صرفه است و کاربرد آن را در طیف گسترده ای از مدلهای هوش مصنوعی امکان پذیر می کند.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.