در دنیای امروز، شبکه‌های عصبی عمیق (Deep Neural Networks) به سرعت در حال پیشرفت هستند و در حوزه‌های مختلفی مانند طبقه‌بندی تصاویر و پردازش زبان طبیعی به عملکردی چشمگیر دست یافته‌اند. با این حال، تحقیقات اخیر نشان داده‌اند که این شبکه‌ها در برابر نمونه‌های خصمانه (Adversarial Examples) چه به صورت دیجیتالی و چه فیزیکی، آسیب‌پذیر هستند و به راحتی فریب می‌خورند. این مسئله نگرانی‌های جدی را در مورد امنیت و قابلیت اطمینان این سیستم‌ها ایجاد می‌کند.

این مقاله به بررسی آسیب‌پذیری سیستم‌های تشخیص چهره در برابر حملات خصمانه فیزیکی با استفاده از آرایش می‌پردازد. سیستم‌های تشخیص چهره در کاربردهای مختلفی که با تهدیدات امنیتی روبرو هستند، مورد استفاده قرار می‌گیرند. بنابراین، بررسی و مقابله با راه‌های نفوذ به این سیستم‌ها از اهمیت ویژه‌ای برخوردار است. استفاده از آرایش به عنوان یک حمله خصمانه فیزیکی، ایده‌ای نوآورانه است زیرا حضور آرایش بر روی صورت یک امر عادی و پذیرفته‌شده است که می‌تواند تشخیص حمله را دشوارتر کند.

اهمیت این تحقیق در این است که نشان می‌دهد چگونه می‌توان با استفاده از تغییرات ظاهری نسبتاً نامحسوس، مانند آرایش، سیستم‌های تشخیص چهره را فریب داد. این امر پیامدهای مهمی برای امنیت سیستم‌های شناسایی هویت و کنترل دسترسی دارد.

این مقاله توسط Chang-Sheng Lin، Chia-Yi Hsu، Pin-Yu Chen و Chia-Mu Yu نوشته شده است. نویسندگان در زمینه‌های رمزنگاری و امنیت، بینایی کامپیوتر و تشخیص الگو، و یادگیری ماشین تخصص دارند. این تخصص‌های متنوع به آن‌ها این امکان را داده است تا به طور جامع به مسئله حملات خصمانه فیزیکی به سیستم‌های تشخیص چهره بپردازند.

زمینه تحقیقاتی این مقاله در تقاطع حوزه‌های امنیت سایبری و بینایی کامپیوتر قرار دارد و هدف آن شناسایی و مقابله با آسیب‌پذیری‌های سیستم‌های هوش مصنوعی در دنیای واقعی است.

چکیده مقاله به این صورت است: شبکه‌های عصبی عمیق به سرعت توسعه یافته‌اند و در چندین وظیفه، مانند طبقه‌بندی تصاویر و پردازش زبان طبیعی، به عملکردی برجسته دست یافته‌اند. با این حال، مطالعات اخیر نشان داده‌اند که نمونه‌های خصمانه دیجیتالی و فیزیکی می‌توانند شبکه‌های عصبی را فریب دهند. سیستم‌های تشخیص چهره در کاربردهای مختلفی استفاده می‌شوند که شامل تهدیدات امنیتی ناشی از نمونه‌های خصمانه فیزیکی هستند. در این مقاله، ما یک حمله خصمانه فیزیکی با استفاده از آرایش کامل صورت پیشنهاد می‌کنیم. حضور آرایش بر روی صورت انسان یک احتمال معقول است، که احتمالاً غیرقابل تشخیص بودن حملات را افزایش می‌دهد. در چارچوب حمله ما، ما شبکه تولید خصمانه چرخه‌ای (cycle-GAN) و یک طبقه‌بند قربانی‌شده را با هم ترکیب می‌کنیم. از Cycle-GAN برای تولید آرایش خصمانه استفاده می‌شود و معماری طبقه‌بند قربانی‌شده VGG 16 است. نتایج تجربی ما نشان می‌دهد که حمله ما می‌تواند به طور موثر بر خطاهای دستی در استفاده از آرایش، مانند خطاهای مربوط به رنگ و موقعیت، غلبه کند. ما همچنین نشان می‌دهیم که رویکردهایی که برای آموزش مدل‌ها استفاده می‌شوند می‌توانند بر حملات فیزیکی تأثیر بگذارند. اغتشاشات خصمانه ایجاد شده از مدل از پیش آموزش دیده تحت تأثیر داده‌های آموزشی مربوطه قرار می‌گیرند.

به طور خلاصه، این مقاله یک روش حمله خصمانه فیزیکی جدید را معرفی می‌کند که از آرایش صورت برای فریب دادن سیستم‌های تشخیص چهره استفاده می‌کند. این روش با استفاده از Cycle-GAN آرایش‌های خصمانه ایجاد می‌کند و از VGG16 به عنوان یک سیستم تشخیص چهره هدف استفاده می‌کند. نتایج آزمایش‌ها نشان می‌دهد که این روش می‌تواند به طور موثر سیستم‌های تشخیص چهره را فریب دهد، حتی در شرایطی که آرایش به طور دقیق اعمال نشده باشد.

روش‌شناسی تحقیق در این مقاله شامل مراحل زیر است:

• ایجاد آرایش خصمانه: از شبکه تولید خصمانه چرخه‌ای (Cycle-GAN) برای تولید آرایش‌هایی استفاده می‌شود که هدف آن‌ها فریب دادن سیستم تشخیص چهره است. Cycle-GAN قادر است سبک یک تصویر (در اینجا، سبک آرایش) را به تصویر دیگری منتقل کند، بدون اینکه هویت فرد در تصویر تغییر کند.
• سیستم تشخیص چهره قربانی: معماری VGG16 به عنوان سیستم تشخیص چهره هدف انتخاب شده است. VGG16 یک شبکه عصبی عمیق است که به طور گسترده در وظایف بینایی کامپیوتر، از جمله تشخیص چهره، استفاده می‌شود.
• پیاده‌سازی حمله: آرایش‌های خصمانه تولید شده توسط Cycle-GAN بر روی تصاویر چهره اعمال می‌شوند و سپس این تصاویر به سیستم تشخیص چهره VGG16 ارائه می‌شوند. هدف این است که سیستم تشخیص چهره به اشتباه چهره را تشخیص دهد.
• ارزیابی نتایج: میزان موفقیت حمله با اندازه‌گیری تعداد دفعاتی که سیستم تشخیص چهره به اشتباه چهره را تشخیص می‌دهد، ارزیابی می‌شود. همچنین، تأثیر عوامل مختلف مانند دقت در اعمال آرایش و داده‌های آموزشی مورد استفاده برای آموزش سیستم تشخیص چهره، بر روی موفقیت حمله مورد بررسی قرار می‌گیرد.

به عنوان مثال، فرض کنید هدف این است که سیستم تشخیص چهره فرد “الف” را به عنوان فرد “ب” تشخیص دهد. Cycle-GAN به گونه‌ای آموزش داده می‌شود که آرایشی تولید کند که وقتی بر روی چهره فرد “الف” اعمال می‌شود، چهره او بیشتر شبیه فرد “ب” شود. سپس این تصویر آرایش شده به سیستم VGG16 ارائه می‌شود تا ببینیم آیا سیستم آن را به عنوان فرد “ب” تشخیص می‌دهد یا خیر.

یافته‌های کلیدی این تحقیق عبارتند از:

• حملات خصمانه با استفاده از آرایش موثر هستند: نتایج نشان می‌دهد که می‌توان با استفاده از آرایش، سیستم‌های تشخیص چهره را به طور موثر فریب داد.
• خطاهای دستی در اعمال آرایش قابل غلبه هستند: حتی اگر آرایش به طور دقیق و کامل اعمال نشود، باز هم می‌تواند سیستم تشخیص چهره را فریب دهد. این نشان می‌دهد که این روش حمله از استحکام بالایی برخوردار است.
• داده‌های آموزشی تأثیرگذار هستند: رویکردهایی که برای آموزش مدل‌ها استفاده می‌شوند می‌توانند بر حملات فیزیکی تأثیر بگذارند. اغتشاشات خصمانه ایجاد شده از مدل از پیش آموزش دیده تحت تأثیر داده‌های آموزشی مربوطه قرار می‌گیرند. به عبارت دیگر، سیستم‌های تشخیص چهره‌ای که با داده‌های خاصی آموزش داده شده‌اند، ممکن است در برابر انواع خاصی از حملات خصمانه آسیب‌پذیرتر باشند.

یک مثال عملی از این یافته‌ها این است که اگر یک سیستم تشخیص چهره با تصاویر افراد با آرایش سنگین آموزش داده شود، ممکن است در برابر حملات خصمانه با آرایش‌های ظریف‌تر، آسیب‌پذیرتر باشد.

این تحقیق کاربردها و دستاوردهای متعددی دارد:

• افزایش آگاهی از آسیب‌پذیری‌ها: این تحقیق به افزایش آگاهی از آسیب‌پذیری‌های سیستم‌های تشخیص چهره در برابر حملات خصمانه فیزیکی کمک می‌کند.
• توسعه روش‌های دفاعی: با درک بهتر نحوه عملکرد حملات خصمانه، می‌توان روش‌های دفاعی موثرتری برای مقابله با آن‌ها توسعه داد.
• بهبود امنیت سیستم‌های شناسایی هویت: این تحقیق می‌تواند به بهبود امنیت سیستم‌های شناسایی هویت و کنترل دسترسی کمک کند.

به عنوان مثال، نتایج این تحقیق می‌تواند برای آموزش سیستم‌های تشخیص چهره با داده‌های بیشتری از افراد با آرایش‌های مختلف استفاده شود تا این سیستم‌ها در برابر حملات خصمانه مقاوم‌تر شوند.

در نهایت، این مقاله نشان می‌دهد که سیستم‌های تشخیص چهره در برابر حملات خصمانه فیزیکی با استفاده از آرایش آسیب‌پذیر هستند. این یافته‌ها پیامدهای مهمی برای امنیت سیستم‌های شناسایی هویت و کنترل دسترسی دارد و ضرورت توسعه روش‌های دفاعی موثرتر را 강조 می‌کند. تحقیقات آینده می‌توانند بر روی توسعه روش‌های دفاعی متمرکز شوند که قادر به شناسایی و خنثی‌سازی حملات خصمانه با استفاده از آرایش هستند. همچنین، بررسی تأثیر عوامل دیگری مانند نورپردازی و زاویه دید بر روی موفقیت این نوع حملات می‌تواند به درک بهتر این آسیب‌پذیری‌ها کمک کند.