ترجمه فارسی مقاله حملات عملی علیه موتورهای تکمیل کد جعبه سیاه

چکیده

Modern code completion engines, powered by large language models, have demonstrated impressive capabilities to generate functionally correct code based on surrounding context. As these tools are extensively used by millions of developers, it is crucial to investigate their security implications. In this work, we present INSEC, a novel attack that directs code completion engines towards generating vulnerable code. In line with most commercial completion engines, such as GitHub Copilot, INSEC assumes only black-box query access to the targeted engine, without requiring any knowledge of the engine’s internals. Our attack works by inserting a malicious attack string as a short comment in the completion input. To derive the attack string, we design a series of specialized initialization schemes and an optimization procedure for further refinement. We demonstrate the strength of INSEC not only on state-of-the-art open-source models but also on black-box commercial services such as the OpenAI API and GitHub Copilot. On a comprehensive set of security-critical test cases covering 16 CWEs across 5 programming languages, INSEC significantly increases the likelihood of the considered completion engines in generating unsafe code by >50% in absolute, while maintaining the ability in producing functionally correct code. At the same time, our attack has low resource requirements, and can be developed for a cost of well under ten USD on commodity hardware.

چکیده به فارسی (ترجمه ماشینی)

موتورهای تکمیل کد مدرن ، با استفاده از مدل های بزرگ زبان ، قابلیت های چشمگیر را برای تولید کد صحیح عملکردی بر اساس زمینه اطراف نشان داده اند.از آنجا که این ابزارها توسط میلیون ها توسعه دهنده به طور گسترده مورد استفاده قرار می گیرند ، بررسی پیامدهای امنیتی آنها بسیار مهم است.در این کار ، ما Insec را ارائه می دهیم ، یک حمله جدید که موتورهای تکمیل کد را به سمت تولید کد آسیب پذیر سوق می دهد.در راستای اکثر موتورهای تکمیل تجاری ، مانند GitHub Copilot ، INSEC فقط دسترسی به پرس و جو از جعبه سیاه به موتور هدفمند را فرض می کند ، بدون اینکه نیاز به آگاهی از داخلی موتور داشته باشد.حمله ما با درج یک رشته حمله مخرب به عنوان یک اظهار نظر کوتاه در ورودی تکمیل کار می کند.برای استخراج رشته حمله ، ما یک سری از طرح های اولیه اولیه سازی و یک روش بهینه سازی را برای پالایش بیشتر طراحی می کنیم.ما قدرت INSEC را نه تنها در مدل های برتر منبع باز بلکه در خدمات تجاری جعبه سیاه مانند OpenAi API و GitHub Copilot نشان می دهیم.در مجموعه ای جامع از موارد تست امنیتی مهم که شامل 16 CWE در 5 زبان برنامه نویسی است ، INSEC احتمال افزایش موتورهای تکمیل در نظر گرفته شده در تولید کد ناامن را با> 50 ٪ در مطلق افزایش می دهد ، ضمن اینکه توانایی تولید کد صحیح عملکردی را دارد.در عین حال ، حمله ما نیاز به منابع کم دارد و می تواند برای هزینه زیر 10 دلار برای سخت افزار کالا توسعه یابد.