ترجمه فارسی مقاله پیش تمرینی سنتتیک ادامه یافته

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Synthetic continued pretraining
عنوان مقاله به فارسی پیش تمرینی سنتتیک ادامه یافته
نویسندگان Zitong Yang, Neil Band, Shuangping Li, Emmanuel Candès, Tatsunori Hashimoto
فرمت مقاله انگلیسی PDF
تعداد صفحات 46
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Artificial Intelligence,Computation and Language,Machine Learning,یادگیری ماشین , هوش مصنوعی , محاسبات و زبان , یادگیری ماشین ,
توضیحات Submitted 11 September, 2024; originally announced September 2024.
توضیحات به فارسی ارسال شده در 11 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Pretraining on large-scale, unstructured internet text has enabled language models to acquire a significant amount of world knowledge. However, this knowledge acquisition is data-inefficient -- to learn a given fact, models must be trained on hundreds to thousands of diverse representations of it. This poses a challenge when adapting a pretrained model to a small corpus of domain-specific documents, where each fact may appear rarely or only once. We propose to bridge this gap with synthetic continued pretraining: using the small domain-specific corpus to synthesize a large corpus more amenable to learning, and then performing continued pretraining on the synthesized corpus. We instantiate this proposal with EntiGraph, a synthetic data augmentation algorithm that extracts salient entities from the source documents and then generates diverse text by drawing connections between the sampled entities. Synthetic continued pretraining using EntiGraph enables a language model to answer questions and follow generic instructions related to the source documents without access to them. If instead, the source documents are available at inference time, we show that the knowledge acquired through our approach compounds with retrieval-augmented generation. To better understand these results, we build a simple mathematical model of EntiGraph, and show how synthetic data augmentation can "rearrange" knowledge to enable more data-efficient learning.

چکیده به فارسی (ترجمه ماشینی)

پیشگویی در متن اینترنت بدون ساختار در مقیاس بزرگ ، مدل های زبان را قادر می سازد تا دانش جهانی را به دست آورند.با این حال ، این کسب دانش کافی است-برای یادگیری یک واقعیت معین ، مدل ها باید در صدها تا هزاران نمایشگاه متنوع از آن آموزش ببینند.این یک چالش را هنگام تطبیق یک مدل پیش ساخته با یک قسمت کوچک از اسناد خاص دامنه ایجاد می کند ، جایی که ممکن است هر واقعیت به ندرت یا فقط یک بار ظاهر شود.ما پیشنهاد می کنیم که این شکاف را با پیشگویی مداوم مصنوعی بچرخانیم: با استفاده از جسد کوچک خاص دامنه برای ترکیب یک قشر بزرگ که بیشتر برای یادگیری قابل استفاده است ، و سپس انجام ادامه کار ادامه بر روی قشر سنتز شده.ما این پیشنهاد را با Entigraph ، یک الگوریتم تقویت داده های مصنوعی که موجودات برجسته را از اسناد منبع استخراج می کند ، فوراً می کنیم و سپس با ترسیم اتصالات بین اشخاص نمونه ، متن متنوعی را ایجاد می کنیم.پیش از پیشبرد مصنوعی با استفاده از Entigraph یک مدل زبان را قادر می سازد تا به سؤالات پاسخ دهد و دستورالعمل های عمومی مربوط به اسناد منبع را بدون دسترسی به آنها دنبال کند.اگر در عوض ، اسناد منبع در زمان استنتاج در دسترس هستند ، ما نشان می دهیم که دانش به دست آمده از طریق ترکیبات رویکرد ما با نسل بازیابی و آگوژ.برای درک بهتر این نتایج ، ما یک مدل ریاضی ساده از Entigraph ایجاد می کنیم ، و نشان می دهیم که چگونه افزایش داده های مصنوعی می تواند دانش را "تنظیم مجدد" کند تا یادگیری کارآمدتر داده شود.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.