در دنیای دیجیتال امروز، نرم‌افزارها زیربنای تمام فعالیت‌های ما از ارتباطات و تجارت گرفته تا زیرساخت‌های حیاتی را تشکیل می‌دهند. با این حال، با افزایش پیچیدگی نرم‌افزارها، ریسک بروز آسیب‌پذیری‌های امنیتی نیز به شدت افزایش یافته است. این آسیب‌پذیری‌ها می‌توانند منجر به نشت اطلاعات حساس، خسارات مالی هنگفت و به خطر افتادن امنیت ملی شوند. از این رو، شناسایی و رفع سریع این نقص‌ها پیش از آنکه توسط مهاجمان مورد سوءاستفاده قرار گیرند، از اهمیت فوق‌العاده‌ای برخوردار است.

روش‌های سنتی تشخیص آسیب‌پذیری مانند تحلیل استاتیک (SAST) و دینامیک (DAST) با چالش‌هایی نظیر نرخ بالای هشدارهای نادرست (False Positives)، کندی فرآیند و ناتوانی در شناسایی الگوهای پیچیده مواجه هستند. این مقاله علمی با عنوان «مدل‌های زبانی مبتنی بر ترانسفورمر برای تشخیص آسیب‌پذیری نرم‌افزار»، رویکردی نوین و هوشمندانه را برای این چالش ارائه می‌دهد. ایده اصلی این پژوهش بر این فرض استوار است که زبان‌های برنامه‌نویسی سطح بالا، مانند C/C++، شباهت‌های ساختاری و معنایی زیادی با زبان‌های طبیعی دارند. بنابراین، می‌توان از قدرت شگفت‌انگیز مدل‌های زبانی بزرگ (LLMs) که بر اساس معماری ترانسفورمر (Transformer) ساخته شده‌اند و در پردازش زبان طبیعی به موفقیت‌های چشمگیری دست یافته‌اند، برای «خواندن» و «درک» کد منبع و شناسایی الگوهای منجر به آسیب‌پذیری بهره برد. این تحقیق پلی میان دو حوزه پیشرفته هوش مصنوعی و امنیت سایبری ایجاد کرده و راه را برای نسل جدیدی از ابزارهای امنیتی هوشمند هموار می‌سازد.

این مقاله حاصل همکاری گروهی از محققان برجسته در حوزه‌های مختلف علوم کامپیوتر است. نویسندگان این اثر عبارتند از:

• Chandra Thapa
• Seung Ick Jang
• Muhammad Ejaz Ahmed
• Seyit Camtepe
• Josef Pieprzyk
• Surya Nepal

تخصص این پژوهشگران در زمینه‌هایی چون رمزنگاری و امنیت (Cryptography and Security)، هوش مصنوعی (Artificial Intelligence) و یادگیری ماشین (Machine Learning) متمرکز است. این ترکیب بین‌رشته‌ای از تخصص‌ها، اعتبار و عمق علمی بالایی به پژوهش بخشیده و تضمین می‌کند که هم جنبه‌های امنیتی و هم جنبه‌های الگوریتمی مدل‌ها با دقت بالایی مورد بررسی قرار گرفته‌اند.

این مقاله به بررسی این موضوع می‌پردازد که چگونه می‌توان از مدل‌های زبانی بزرگ مبتنی بر ترانسفورمر برای تشخیص آسیب‌پذیری‌های نرم‌افزاری در کدهای C/C++ استفاده کرد و عملکرد این مدل‌ها در این زمینه تا چه حد مطلوب است. پژوهشگران با در نظر گرفتن قابلیت انتقال دانش از یک حوزه به حوزه دیگر و شباهت ساختاری زبان‌های برنامه‌نویسی به زبان‌های طبیعی، یک چارچوب منسجم و سیستماتیک برای این فرآیند ارائه می‌دهند.

این چارچوب شامل سه مرحله اصلی است: ترجمه کد منبع به فرمتی قابل فهم برای مدل، آماده‌سازی و تنظیم دقیق (Fine-tuning) مدل بر روی مجموعه داده‌های آسیب‌پذیری، و در نهایت استنتاج (Inference) برای شناسایی ضعف‌های امنیتی در کدهای جدید. برای ارزیابی تجربی، از مجموعه داده‌هایی استفاده شده که شامل کدهای C/C++ با آسیب‌پذیری‌های مشخص در چهار دسته اصلی هستند: فراخوانی توابع کتابخانه‌ای، استفاده نادرست از اشاره‌گرها، خطاهای مرتبط با آرایه‌ها و عبارات حسابی ناامن. نتایج تجربی نشان‌دهنده عملکرد بسیار خوب این مدل‌ها در تشخیص آسیب‌پذیری است. علاوه بر این، پژوهش نشان می‌دهد که این مدل‌ها در معیارهای کلیدی مانند F1-score، به طور قابل توجهی از مدل‌های معاصر دیگر مانند شبکه‌های حافظه طولانی کوتاه‌مدت دوطرفه (Bi-LSTM) و واحدهای بازگشتی دروازه‌ای دوطرفه (Bi-GRU) بهتر عمل می‌کنند. در بخش پایانی، مقاله به چالش‌های عملیاتی کار با این مدل‌های بزرگ، مانند نیاز به منابع محاسباتی قدرتمند، پرداخته و با تحلیل پلتفرم‌های محبوب، راهنمایی‌های ارزشمندی برای انتخاب بستر مناسب جهت تنظیم دقیق این مدل‌ها ارائه می‌دهد.

پژوهشگران در این مقاله یک چارچوب روشمند و جامع برای استفاده از مدل‌های ترانسفورمر در حوزه امنیت نرم‌افزار طراحی کرده‌اند که مراحل آن به شرح زیر است:

• مرحله اول: ترجمه و پیش‌پردازش کد منبع (Source Code Translation): در این مرحله، کد منبع خام C/C++ به فرمتی تبدیل می‌شود که مدل زبانی قادر به پردازش آن باشد. این فرآیند که توکنیزاسیون (Tokenization) نامیده می‌شود، کد را به واحدهای معنایی کوچک‌تری مانند کلمات کلیدی (if, for)، شناسه‌ها (نام متغیرها و توابع)، عملگرها (+, =, *) و جداکننده‌ها ({, ;}) تقسیم می‌کند. نتیجه این مرحله، دنباله‌ای از توکن‌هاست که ساختار کد را حفظ کرده و برای مدل، مشابه یک جمله در زبان طبیعی، قابل درک است.
• مرحله دوم: آماده‌سازی و تنظیم دقیق مدل (Model Preparation): این تحقیق از مدل‌های زبانی از پیش‌آموزش‌دیده (Pre-trained) بهره می‌برد. این مدل‌ها قبلاً بر روی حجم عظیمی از داده‌های متنی آموزش دیده‌اند و درک عمومی از ساختارهای زبانی دارند. در این مرحله، مدل از پیش‌آموزش‌دیده بر روی یک مجموعه داده تخصصی شامل نمونه کدهای آسیب‌پذیر و ایمن، «تنظیم دقیق» (Fine-tune) می‌شود. این فرآیند به مدل کمک می‌کند تا الگوهای ظریف و پیچیده‌ای را که نشان‌دهنده یک آسیب‌پذیری خاص هستند، بیاموزد. مجموعه داده‌های مورد استفاده در این تحقیق شامل آسیب‌پذیری‌های رایج و خطرناک مانند:
  • Buffer Overflow ناشی از استفاده نادرست از توابع کتابخانه‌ای مانند `strcpy`.
  • Null Pointer Dereference به دلیل عدم بررسی اشاره‌گرها قبل از استفاده.
  • Array Index Out of Bounds که منجر به دسترسی به حافظه غیرمجاز می‌شود.
  • Integer Overflow در عبارات حسابی که می‌تواند منطق برنامه را مختل کند.
• مرحله سوم: استنتاج و تشخیص (Inference): پس از اتمام فرآیند تنظیم دقیق، مدل آماده استفاده است. در این مرحله، یک قطعه کد جدید به مدل داده می‌شود. مدل با تحلیل توالی توکن‌های کد، یک پیش‌بینی در مورد وضعیت امنیتی آن ارائه می‌دهد و آن را به عنوان «آسیب‌پذیر» یا «ایمن» طبقه‌بندی می‌کند. قدرت این رویکرد در توانایی مدل برای تعمیم الگوهای آموخته‌شده به کدهایی است که قبلاً هرگز ندیده است.

تحلیل تجربی انجام‌شده در این مقاله نتایج مهم و قابل توجهی را به همراه داشته است که مهم‌ترین آن‌ها عبارتند از:

۱. عملکرد برتر مدل‌های ترانسفورمر: نتایج به وضوح نشان داد که مدل‌های زبانی مبتنی بر ترانسفورمر در تشخیص آسیب‌پذیری‌های نرم‌افزاری بسیار مؤثر هستند. این مدل‌ها توانستند با دقت بالایی الگوهای پیچیده در کد را شناسایی کنند. برای ارزیابی، عملکرد آن‌ها با دو معماری محبوب دیگر در پردازش توالی‌ها، یعنی Bi-LSTM و Bi-GRU، مقایسه شد.

یافته کلیدی این بود که مدل‌های ترانسفورمر به طور مداوم در معیارهای ارزیابی، به‌ویژه F1-score، عملکرد بهتری داشتند. معیار F1-score که میانگین همساز دقت (Precision) و بازیابی (Recall) است، نشان می‌دهد که این مدل‌ها نه تنها هشدارهای نادرست کمی تولید می‌کنند، بلکه قادرند بخش بزرگی از آسیب‌پذیری‌های واقعی را نیز شناسایی کنند. این برتری به دلیل معماری ترانسفورمر و مکانیزم توجه (Attention Mechanism) آن است که به مدل اجازه می‌دهد ارتباطات دوربرد بین توکن‌های مختلف در کد را بهتر درک کند.

۲. تحلیل چالش‌ها و ارائه راه‌حل‌های عملی: یکی از موانع اصلی در استفاده از مدل‌های زبانی بزرگ، نیاز به منابع محاسباتی سنگین (مانند GPUهای قدرتمند) و مدیریت پیچیده کتابخانه‌ها و وابستگی‌هاست. این مقاله فراتر از ارائه نتایج تئوریک رفته و به این چالش عملی نیز پرداخته است. پژوهشگران پلتفرم‌های رایج برای آموزش و تنظیم دقیق این مدل‌ها (مانند Google Colab، Kaggle و سرورهای ابری) را تحلیل کرده و توصیه‌هایی کاربردی برای انتخاب پلتفرم مناسب بر اساس نیازهای پروژه، بودجه و سطح تخصص ارائه داده‌اند. این بخش از مقاله یک راهنمای ارزشمند برای محققان و توسعه‌دهندگانی است که قصد ورود به این حوزه را دارند.

این پژوهش دستاوردهای مهمی در هر دو زمینه نظری و عملی به ارمغان آورده است:

• نسل جدید ابزارهای تحلیل امنیت کد: نتایج این تحقیق می‌تواند به توسعه ابزارهای تحلیل استاتیک هوشمند (Intelligent SAST) منجر شود که به جای تکیه بر قوانین از پیش تعریف‌شده، از یادگیری عمیق برای درک معنایی کد استفاده می‌کنند. این ابزارها می‌توانند با دقت بالاتر و هشدارهای نادرست کمتر، به بخشی جدایی‌ناپذیر از چرخه‌های توسعه نرم‌افزار مدرن (DevSecOps) تبدیل شوند.
• بازخورد آنی به توسعه‌دهندگان: این تکنولوژی قابلیت ادغام در محیط‌های توسعه یکپارچه (IDE) به صورت افزونه را دارد. به این ترتیب، توسعه‌دهندگان می‌توانند حین کدنویسی، بازخوردهای امنیتی آنی دریافت کرده و آسیب‌پذیری‌ها را در همان مراحل اولیه تولید برطرف کنند.
• تسریع فرآیند ممیزی کد: ممیزی امنیتی کد برای پروژه‌های بزرگ، فرآیندی زمان‌بر و پرهزینه است. استفاده از این مدل‌ها می‌تواند بخش بزرگی از این فرآیند را خودکار کرده و به متخصصان امنیت اجازه دهد تا بر روی موارد پیچیده‌تر و حیاتی‌تر تمرکز کنند.
• کاهش موانع پژوهشی: با ارائه یک چارچوب منسجم و تحلیل پلتفرم‌های پیاده‌سازی، این مقاله به دموکراتیزه کردن تحقیقات در حوزه “هوش مصنوعی برای امنیت سایبری” کمک کرده و راه را برای پژوهش‌های آتی در این زمینه هموارتر می‌سازد.

مقاله «مدل‌های زبانی مبتنی بر ترانسفورمر برای تشخیص آسیب‌پذیری نرم‌افزار» به طور قانع‌کننده‌ای نشان می‌دهد که پارادایم‌های موفق در پردازش زبان طبیعی، قابلیت انتقال و کاربرد در حوزه حیاتی امنیت نرم‌افزار را دارند. این پژوهش با ارائه یک چارچوب سیستماتیک و اثبات تجربی برتری مدل‌های ترانسفورمر بر معماری‌های قدیمی‌تر مانند LSTM و GRU، گامی مهم به سوی ساخت ابزارهای تشخیص آسیب‌پذیری هوشمندتر، دقیق‌تر و کارآمدتر برداشته است.

این رویکرد نه تنها پتانسیل بهبود چشمگیر امنیت نرم‌افزارها را دارد، بلکه با پرداختن به چالش‌های عملی پیاده‌سازی، یک نقشه راه ارزشمند برای جامعه علمی و صنعتی فراهم می‌کند. در نهایت، این تحقیق تأکید می‌کند که آینده امنیت نرم‌افزار به طور فزاینده‌ای با پیشرفت‌های حوزه هوش مصنوعی گره خورده است و مدل‌های زبانی بزرگ، ابزاری قدرتمند در زرادخانه دفاعی ما در برابر تهدیدات سایبری خواهند بود.