ترجمه فارسی مقاله اتصال سریع انتخابی برای تولید کد

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی Selective Prompt Anchoring for Code Generation
عنوان مقاله به فارسی اتصال سریع انتخابی برای تولید کد
نویسندگان Yuan Tian, Tianyi Zhang
فرمت مقاله انگلیسی PDF
تعداد صفحات 22
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Artificial Intelligence,Computation and Language,Software Engineering,یادگیری ماشین , هوش مصنوعی , محاسبات و زبان , مهندسی نرم افزار ,
توضیحات Submitted 21 August, 2024; v1 submitted 17 August, 2024; originally announced August 2024.
توضیحات به فارسی ارائه شده 21 اوت 2024 ؛V1 ارسال شده 17 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Recent advances in large language models (LLMs) such as Copilot and ChatGPT have transformed software development by automating coding tasks. Despite these advancements, challenges remain in reducing error rates and fully meeting user expectations. Our empirical study reveals LLMs tend to dilute their self-attention on the initial prompt as more code tokens are generated. We hypothesize this self-attention dilution issue is one of the root causes of inaccuracies in LLM-generated code. To mitigate this issue, we propose Selective Prompt Anchoring (SPA). SPA amplifies the influence of the selected parts in the initial prompt, which we refer to as ``anchored text'', during code generation. Specifically, SPA calculates the logit distribution difference with and without the anchored text. We prove this difference approximates the anchored text's contextual contribution to the output logits. SPA creates an augmented logit distribution by linearly combining the original logit distribution and the logit difference. We evaluate SPA with five LLMs on four benchmarks. Our results demonstrate that using SPA can consistently improve Pass@1 rates by up to 9.7% in all settings. Notably, with selective text anchoring, a small version of DeepSeek-Coder (6.7B) can achieve better performance than an original much larger version (33B). Our code is available at https://github.com/magic-YuanTian/Selective-Prompt-Anchoring.

چکیده به فارسی (ترجمه ماشینی)

پیشرفت های اخیر در مدل های بزرگ زبان (LLMS) مانند Copilot و ChatGPT با اتوماسیون وظایف برنامه نویسی ، توسعه نرم افزار را تغییر داده است.با وجود این پیشرفت ها ، چالش هایی در کاهش نرخ خطا و رفع کامل انتظارات کاربر باقی مانده است.مطالعه تجربی ما نشان می دهد که LLM ها تمایل به رقیق کردن خود در مورد سریع خود را در سریعترین زمان ایجاد می کنند.ما فرض می کنیم که این مسئله رقیق کردن خودآگاهی یکی از دلایل اصلی عدم دقت در کد تولید LLM است.برای کاهش این مسئله ، ما لنگر انداختن سریع انتخابی (SPA) را پیشنهاد می کنیم.SPA تأثیر قطعات منتخب را در سریع اولیه ، که ما از آن به عنوان "متن لنگر زده" در طول تولید کد یاد می کنیم ، تقویت می کند.به طور خاص ، SPA تفاوت توزیع ورود به سیستم را با و بدون متن لنگرگاه محاسبه می کند.ما ثابت می کنیم که این تفاوت سهم متنی متن لنگر را در ورود به سیستم خروجی تقریب می دهد.SPA با ترکیب خطی توزیع ورود به سیستم اصلی و تفاوت ورود به سیستم ، توزیع ورود به سیستم را ایجاد می کند.ما آبگرم را با پنج LLM در چهار معیار ارزیابی می کنیم.نتایج ما نشان می دهد که استفاده از SPA می تواند به طور مداوم نرخ پاس@1 را تا 9.7 ٪ در تمام تنظیمات بهبود بخشد.نکته قابل توجه ، با لنگر انداختن متن انتخابی ، یک نسخه کوچک از Deepseek-Coder (6.7b) می تواند عملکرد بهتری نسبت به نسخه بسیار بزرگتر اصلی (33b) داشته باشد.کد ما در https://github.com/magic-yuantian/selective-prompt-anchoring در دسترس است.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.