ترجمه فارسی مقاله PromSec: بهینه سازی سریع برای تولید امن کد منبع عملکردی با مدلهای بزرگ زبان (LLMS)

چکیده

The capability of generating high-quality source code using large language models (LLMs) reduces software development time and costs. However, they often introduce security vulnerabilities due to training on insecure open-source data. This highlights the need for ensuring secure and functional code generation. This paper introduces PromSec, an algorithm for prom optimization for secure and functioning code generation using LLMs. In PromSec, we combine 1) code vulnerability clearing using a generative adversarial graph neural network, dubbed as gGAN, to fix and reduce security vulnerabilities in generated codes and 2) code generation using an LLM into an interactive loop, such that the outcome of the gGAN drives the LLM with enhanced prompts to generate secure codes while preserving their functionality. Introducing a new contrastive learning approach in gGAN, we formulate code-clearing and generation as a dual-objective optimization problem, enabling PromSec to notably reduce the number of LLM inferences. PromSec offers a cost-effective and practical solution for generating secure, functional code. Extensive experiments conducted on Python and Java code datasets confirm that PromSec effectively enhances code security while upholding its intended functionality. Our experiments show that while a state-of-the-art approach fails to address all code vulnerabilities, PromSec effectively resolves them. Moreover, PromSec achieves more than an order-of-magnitude reduction in operation time, number of LLM queries, and security analysis costs. Furthermore, prompts optimized with PromSec for a certain LLM are transferable to other LLMs across programming languages and generalizable to unseen vulnerabilities in training. This study is a step in enhancing the trustworthiness of LLMs for secure and functional code generation, supporting their integration into real-world software development.

چکیده به فارسی (ترجمه ماشینی)

قابلیت تولید کد منبع با کیفیت بالا با استفاده از مدلهای بزرگ زبان (LLMS) باعث کاهش زمان و هزینه های توسعه نرم افزار می شود.با این حال ، آنها اغلب به دلیل آموزش در مورد داده های منبع باز ناامن ، آسیب پذیری های امنیتی را معرفی می کنند.این امر نیاز به اطمینان از تولید کد امن و کاربردی را برجسته می کند.در این مقاله PROMSEC ، یک الگوریتم برای بهینه سازی وعده برای تولید کد امن و عملکردی با استفاده از LLMS معرفی شده است.در PROMSEC ، ما 1) پاکسازی آسیب پذیری کد را با استفاده از یک شبکه عصبی نمودار منفی ، که به عنوان GGAN لقب گرفته است ، برای رفع و کاهش آسیب پذیری های امنیتی در کدهای تولید شده و 2) تولید کد با استفاده از LLM به یک حلقه تعاملی ترکیب می کنیم ، به گونه ای که نتیجه نتیجهGGAN LLM را با درخواست های پیشرفته برای تولید کدهای ایمن ضمن حفظ عملکرد آنها هدایت می کند.با معرفی یک رویکرد جدید یادگیری متضاد در GGAN ، ما پاکسازی کد و تولید را به عنوان یک مشکل بهینه سازی دوگانه تدوین می کنیم و PROMSEC را قادر می سازد تا به ویژه تعداد استنتاج های LLM را کاهش دهد.PromSec یک راه حل مقرون به صرفه و عملی برای تولید کد امن و کاربردی ارائه می دهد.آزمایش های گسترده ای که بر روی مجموعه داده های کد پایتون و جاوا انجام شده است ، تأیید می کنند که PROMSEC ضمن حمایت از عملکرد مورد نظر خود ، امنیت کد را افزایش می دهد.آزمایش های ما نشان می دهد که در حالی که یک رویکرد پیشرفته نمی تواند به کلیه آسیب پذیری های کد پرداخته باشد ، PromSec به طور موثری آنها را برطرف می کند.علاوه بر این ، Promsec بیش از کاهش نظم از رشد در زمان عملکرد ، تعداد نمایش داده های LLM و هزینه های تجزیه و تحلیل امنیتی به دست می آورد.علاوه بر این ، مطالب بهینه سازی شده با PromSec برای LLM خاص قابل انتقال به سایر LLM ها در زبان های برنامه نویسی و قابل تعمیم در آسیب پذیری های غیب در آموزش است.این مطالعه گامی برای تقویت اعتماد به نفس LLMS برای تولید کد امن و کاربردی است و از ادغام آنها در توسعه نرم افزار در دنیای واقعی پشتیبانی می کند.