در دهه اخیر، با پیشرفت‌های چشمگیر در حوزه هوش مصنوعی و به ویژه شبکه‌های عصبی عمیق (DNNs)، کاربرد این فناوری‌ها در مهندسی نرم‌افزار به شکل فزاینده‌ای گسترش یافته است. تحلیل خودکار کد منبع، یکی از حوزه‌هایی است که از این پیشرفت‌ها بهره‌مند شده و مدل‌های یادگیری عمیق توانسته‌اند در وظایفی مانند دسته‌بندی کد، تشخیص باگ، و پیشنهاد کد، به عملکردی در سطح متخصصان انسانی دست یابند. با این حال، این مدل‌ها طبیعتی «داده‌محور» دارند؛ به این معنا که برای دستیابی به دقت بالا، نیازمند حجم عظیمی از داده‌های آموزشی باکیفیت و برچسب‌دار هستند.

مشکل اصلی در اینجاست که فرآیند برچسب‌گذاری داده‌ها، به خصوص در حوزه کد منبع، کاری بسیار دشوار، زمان‌بر و پرهزینه است. این کار نه تنها به نیروی انسانی نیاز دارد، بلکه مستلزم دانش و تخصص بالای برنامه‌نویسی برای درک صحیح عملکرد و معنای کد است. این چالش، که به «تنگنای داده» (Data Bottleneck) معروف است، مانعی جدی بر سر راه توسعه و بهبود مدل‌های تحلیل کد به شمار می‌رود. مقاله MIXCODE با ارائه یک رویکرد نوآورانه برای «افزایش داده» (Data Augmentation)، راهکاری هوشمندانه برای غلبه بر این چالش ارائه می‌دهد. این روش به مدل‌ها امکان می‌دهد تا با داده‌های کمتر، به عملکردی بهتر و مقاوم‌تر دست یابند و بدین ترتیب، مرزهای تحلیل خودکار کد را جابجا کنند.

این مقاله حاصل همکاری گروهی از پژوهشگران برجسته به نام‌های Zeming Dong، Qiang Hu، Yuejun Guo، Maxime Cordy، Mike Papadakis، Zhenya Zhang، Yves Le Traon و Jianjun Zhao است. این تیم تحقیقاتی در مرز مشترک دو حوزه کلیدی مهندسی نرم‌افزار (Software Engineering) و هوش مصنوعی (Artificial Intelligence) فعالیت می‌کنند. تخصص آن‌ها بر روی استفاده از تکنیک‌های یادگیری ماشین و یادگیری عمیق برای حل مسائل پیچیده در توسعه و نگهداری نرم‌افزار متمرکز است. این مقاله به طور خاص در زمینه تحلیل برنامه (Program Analysis) و کاربرد هوش مصنوعی برای کد (AI for Code) قرار می‌گیرد و نشان‌دهنده تلاش برای انطباق تکنیک‌های موفق از حوزه‌های دیگر، مانند بینایی کامپیوتر، با چالش‌های منحصربه‌فرد دنیای کد است.

مقاله MIXCODE یک رویکرد جدید برای افزایش داده در وظایف دسته‌بندی کد معرفی می‌کند. روش‌های افزایش داده پیشین در این حوزه عمدتاً ساده و مبتنی بر تحولات جزئی (مانند تغییر نام متغیرها) یا تولید نمونه‌های متخاصم (Adversarial Examples) بودند که بهبود عملکرد محدودی به همراه داشتند. MIXCODE با الهام از تکنیک موفقی به نام Mixup در حوزه بینایی کامپیوتر، یک استراتژی دو مرحله‌ای و کارآمد را پیاده‌سازی می‌کند:

• مرحله اول: تولید داده‌های معتبر از طریق بازآرایی کد (Code Refactoring): در این مرحله، با استفاده از چندین روش استاندارد بازآرایی کد که معنا و کارکرد اصلی برنامه را تغییر نمی‌دهند، نسخه‌های جدیدی از کدهای آموزشی تولید می‌شود. این نسخه‌ها برچسب مشابهی با کد اصلی دارند.
• مرحله دوم: ترکیب داده‌ها با تکنیک Mixup: در این مرحله، به جای استفاده مستقیم از داده‌های جدید، MIXCODE داده‌های اصلی و داده‌های بازآرایی‌شده را در سطح «بازنمایی برداری» (Vector Representation) با یکدیگر ترکیب می‌کند. این کار منجر به تولید نمونه‌های ترکیبی و مصنوعی جدیدی می‌شود که فضای ویژگی را به شکل بهتری پوشش داده و به مدل کمک می‌کنند تا مرزهای تصمیم‌گیری دقیق‌تر و نرم‌تری را یاد بگیرد.

نویسندگان این روش را بر روی دو زبان برنامه‌نویسی (جاوا و پایتون)، دو وظیفه متفاوت (دسته‌بندی مسائل و تشخیص باگ)، چهار مجموعه داده استاندارد و هفت معماری مدل مختلف (از جمله مدل‌های پیشرفته CodeBERT و GraphCodeBERT) ارزیابی کرده‌اند. نتایج نشان می‌دهد که MIXCODE به طور قابل توجهی از روش‌های پایه افزایش داده بهتر عمل می‌کند.

روش پیشنهادی در MIXCODE بر دو ستون اصلی استوار است که در ادامه به تفصیل شرح داده می‌شوند:

گام اول: تولید داده‌های جدید با حفظ معنا از طریق بازآرایی کد

اولین چالش در افزایش داده برای کد منبع، تولید نمونه‌هایی است که هم جدید باشند و هم از نظر معنایی معتبر. تغییرات تصادفی در کد (مانند حذف یک نقطه ویرگول) می‌تواند به راحتی ساختار کد را خراب کرده یا کارکرد آن را به کلی تغییر دهد و باعث شود برچسب اولیه دیگر معتبر نباشد. MIXCODE برای حل این مشکل از تکنیک‌های بازآرایی کد (Code Refactoring) استفاده می‌کند. بازآرایی فرآیندی است که در آن ساختار داخلی کد بدون تغییر در رفتار خارجی آن بهبود می‌یابد. مثال‌هایی از این تکنیک‌ها عبارتند از:

• تغییر نام متغیرها و توابع به نام‌های معنادارتر.
• استخراج یک بلوک کد به یک تابع مستقل (Extract Method).
• جابجایی دستورات غیروابسته.

با استفاده از این روش‌ها، MIXCODE نسخه‌های متعددی از هر قطعه کد آموزشی تولید می‌کند که همگی از نظر عملکردی با نسخه اصلی یکسان هستند و بنابراین برچسب یکسانی دارند. این کار تضمین می‌کند که داده‌های افزوده شده، معتبر و باکیفیت هستند.

گام دوم: انطباق و پیاده‌سازی تکنیک Mixup

Mixup یک تکنیک افزایش داده است که در ابتدا برای تصاویر معرفی شد. در Mixup استاندارد، دو تصویر به صورت خطی با هم ترکیب می‌شوند (مثلاً ۷۰٪ از تصویر یک گربه و ۳۰٪ از تصویر یک سگ) و برچسب جدید نیز به همان نسبت ترکیب می‌شود. این کار مدل را مجبور می‌کند تا به جای یادگیری ویژگی‌های مطلق، الگوهای نرم‌تری را بیاموزد.

انطباق این ایده برای کد منبع چالش‌برانگیز است، زیرا کد ساختاری گسسته و ترتیبی دارد و ترکیب مستقیم دو رشته کد بی‌معناست. MIXCODE این چالش را با اجرای Mixup در فضای نهفته (Latent Space) حل می‌کند. فرآیند به این صورت است:

1. ابتدا کد اصلی و کد بازآرایی‌شده به مدل‌های زبانی مانند CodeBERT داده می‌شوند تا بازنمایی‌های برداری (Embeddings) آن‌ها استخراج شود. این بردارها، نمایش‌های عددی فشرده‌ای از معنای کد هستند.
2. سپس، این دو بردار با یکدیگر به صورت خطی ترکیب می‌شوند تا یک بردار جدید و مصنوعی ایجاد شود:
   New_Embedding = λ × Embedding_Original + (1 – λ) × Embedding_Refactored
   که در آن λ یک عدد تصادفی بین ۰ و ۱ است.
3. از آنجا که هر دو کد اصلی و بازآرایی‌شده برچسب یکسانی دارند، برچسب داده ترکیبی جدید نیز همان برچسب اصلی خواهد بود.

این رویکرد هوشمندانه به مدل اجازه می‌دهد تا با نمونه‌هایی آموزش ببیند که بین داده‌های واقعی قرار دارند، که این امر به تعمیم‌پذیری (Generalization) و استواری (Robustness) مدل کمک شایانی می‌کند.

آزمایش‌های گسترده انجام‌شده در این مقاله، کارایی بالای روش MIXCODE را به اثبات می‌رساند. یافته‌های اصلی به شرح زیر است:

• بهبود دقت (Accuracy): نتایج نشان داد که MIXCODE در مقایسه با روش‌های افزایش داده پایه، توانسته است دقت مدل‌ها را در وظایف دسته‌بندی کد تا ۶.۲۴% افزایش دهد. این بهبود در تمامی مدل‌ها و مجموعه داده‌های مورد آزمایش مشاهده شد که نشان‌دهنده عمومیت و کارایی این روش است.
• افزایش استواری (Robustness): یکی از دستاوردهای مهم MIXCODE، افزایش قابل توجه استواری مدل‌هاست. استواری به معنای توانایی مدل در حفظ عملکرد خود در برابر ورودی‌های نویزی یا کمی تغییریافته است. آزمایش‌ها نشان دادند که مدل‌های آموزش‌دیده با MIXCODE تا ۲۶.۰۶% مقاوم‌تر از مدل‌های پایه هستند. این ویژگی در کاربردهای دنیای واقعی، که کدها ممکن است با تغییرات جزئی مواجه شوند، بسیار حیاتی است.
• کارایی بر روی مدل‌های پیش‌آموزش‌دیده (Pre-trained Models): این مقاله نشان می‌دهد که MIXCODE حتی برای مدل‌های بسیار قدرتمند و پیشرفته‌ای مانند CodeBERT و GraphCodeBERT نیز مؤثر است. این امر ثابت می‌کند که این روش می‌تواند به عنوان یک مکمل قدرتمند برای بهبود عملکرد بهترین مدل‌های موجود عمل کند.

مقاله MIXCODE دستاوردهای مهمی هم در حوزه عملی و هم در حوزه علمی به همراه دارد.

کاربردهای عملی:

این روش می‌تواند به طور مستقیم برای بهبود ابزارهای هوشمند توسعه نرم‌افزار به کار گرفته شود. برخی از این کاربردها عبارتند از:

• سیستم‌های تشخیص باگ خودکار: با افزایش دقت و استواری، این سیستم‌ها می‌توانند باگ‌ها را با نرخ خطای کمتری شناسایی کنند.
• موتورهای جستجوی کد: بهبود درک معنایی مدل‌ها به ارائه نتایج جستجوی مرتبط‌تر برای توسعه‌دهندگان منجر می‌شود.
• ابزارهای تکمیل خودکار کد (Code Completion): مدل‌های آموزش‌دیده با MIXCODE می‌توانند پیشنهادهای دقیق‌تر و هوشمندانه‌تری ارائه دهند.

دستاوردهای علمی:

• ارائه یک رویکرد افزایش داده نوین و کارآمد که به طور خاص برای داده‌های کد منبع طراحی شده است.
• انطباق موفقیت‌آمیز تکنیک Mixup از حوزه بینایی کامپیوتر به حوزه پیچیده مهندسی نرم‌افزار و تحلیل کد.
• نشان دادن این که ترکیب تحولات حافظ معنا (Semantic-Preserving Transformations) با ترکیب در سطح بازنمایی (Representation-Level Mixing) یک استراتژی بسیار قدرتمند برای مقابله با کمبود داده است.

مقاله “MIXCODE: Enhancing Code Classification by Mixup-Based Data Augmentation” یک گام مهم رو به جلو در زمینه کاربرد هوش مصنوعی در مهندسی نرم‌افزار است. این پژوهش با معرفی یک روش افزایش داده هوشمند و مؤثر، به طور مستقیم یکی از بزرگترین موانع موجود در این حوزه، یعنی نیاز به داده‌های برچسب‌دار انبوه را هدف قرار می‌دهد. MIXCODE با ترکیب هوشمندانه بازآرایی کد و تکنیک Mixup، نه تنها حجم داده‌های آموزشی را به صورت مجازی افزایش می‌دهد، بلکه با تولید نمونه‌های ترکیبی باکیفیت، به بهبود چشمگیر دقت و استواری مدل‌های تحلیل کد کمک می‌کند.

این رویکرد نشان می‌دهد که با انطباق و نوآوری در تکنیک‌های موجود، می‌توان بر چالش‌های منحصربه‌فرد داده‌های ساختاریافته‌ای مانند کد منبع غلبه کرد. نتایج امیدوارکننده این مقاله، راه را برای توسعه نسل جدیدی از ابزارهای هوشمند و قابل اعتماد برای کمک به توسعه‌دهندگان نرم‌افزار هموار می‌سازد و آینده‌ای را نوید می‌دهد که در آن هوش مصنوعی نقش پررنگ‌تری در چرخه حیات نرم‌افزار ایفا خواهد کرد.