ترجمه فارسی مقاله هماهنگی بهتر با آموزش، ترجمه متقابل

چکیده

We propose a new method, instruction back-and-forth translation, to construct high-quality synthetic data grounded in world knowledge for aligning large language models (LLMs). Given documents from a web corpus, we generate and curate synthetic instructions using the backtranslation approach proposed by Li et al.(2023a), and rewrite the responses to improve their quality further based on the initial documents. Fine-tuning with the resulting (backtranslated instruction, rewritten response) pairs yields higher win rates on AlpacaEval than using other common instruction datasets such as Humpback, ShareGPT, Open Orca, Alpaca-GPT4 and Self-instruct. We also demonstrate that rewriting the responses with an LLM outperforms direct distillation, and the two generated text distributions exhibit significant distinction in embedding space. Further analysis shows that our backtranslated instructions are of higher quality than other sources of synthetic instructions, while our responses are more diverse and complex than those obtained from distillation. Overall we find that instruction back-and-forth translation combines the best of both worlds — making use of the information diversity and quantity found on the web, while ensuring the quality of the responses which is necessary for effective alignment.

چکیده به فارسی (ترجمه ماشینی)

ما یک روش جدید ، ترجمه به عقب و جلو ، برای ساخت داده های مصنوعی با کیفیت بالا که در دانش جهان برای تراز کردن مدلهای بزرگ زبان (LLMS) ایجاد می شود ، پیشنهاد می کنیم.با توجه به اسناد مربوط به یک وب سایت ، ما دستورالعمل های مصنوعی را با استفاده از رویکرد برگشت به عقب ارائه شده توسط لی و همکاران (2023a) تولید و اصلاح می کنیم و پاسخ ها را برای بهبود کیفیت آنها بر اساس اسناد اولیه بازنویسی می کنیم.تنظیم دقیق با جفت حاصل (دستورالعمل backtranslated ، پاسخ بازنویسی) ، جفت های برنده بالاتری در Alpacaeval نسبت به سایر مجموعه داده های دستورالعمل رایج مانند Humpback ، ShareGPT ، Open Orca ، Alpaca-GPT4 و خود معرفی می کنند.ما همچنین نشان می دهیم که بازنویسی پاسخ ها با یک LLM از تقطیر مستقیم عمل می کند ، و دو توزیع متن تولید شده در فضای تعبیه تمایز قابل توجهی دارند.تجزیه و تحلیل بیشتر نشان می دهد که دستورالعمل های کمرنگ شده ما از کیفیت بالاتری نسبت به سایر منابع دستورالعمل های مصنوعی برخوردار هستند ، در حالی که پاسخ های ما متنوع تر و پیچیده تر از مواردی است که از تقطیر به دست می آید.به طور کلی می فهمیم که ترجمه به عقب و جلو بهترین ترکیب را در هر دو جهان ترکیب می کند-استفاده از تنوع و کمیت اطلاعات موجود در وب ، ضمن اطمینان از کیفیت پاسخ هایی که برای تراز مؤثر لازم است.