ترجمه فارسی مقاله چارچوبی برای تنظیم دقیق LLM ها با استفاده از بازخورد ناهمگن

چکیده

Large language models (LLMs) have been applied to a wide range of tasks, including text summarization, web navigation, and chatbots. They have benefitted from supervised fine-tuning (SFT) and reinforcement learning from human feedback (RLHF) following an unsupervised pretraining. These datasets can be difficult to collect, limited in scope, and vary in sample quality. Additionally, datasets can vary extensively in supervision format, from numerical to binary as well as multi-dimensional with many different values. We present a framework for fine-tuning LLMs using heterogeneous feedback, which has two main components. First, we combine the heterogeneous feedback data into a single supervision format, compatible with methods like SFT and RLHF. Next, given this unified feedback dataset, we extract a high-quality and diverse subset to obtain performance increases potentially exceeding the full dataset. We conduct extensive experiments to understand the effectiveness of these techniques for incorporating heterogeneous feedback, and demonstrate improvements from using a high-quality and diverse subset of the data. We find that our framework is able to improve models in multiple areas simultaneously, such as in instruction following and bias reduction.

چکیده به فارسی (ترجمه ماشینی)

مدل های بزرگ زبان (LLMS) برای طیف گسترده ای از کارها از جمله خلاصه متن ، ناوبری وب و چت بابات استفاده شده است.آنها به دنبال یک تنظیم دقیق (SFT) و یادگیری تقویت شده از بازخورد انسانی (RLHF) به دنبال پیشگویی بدون نظارت هستند.جمع آوری این مجموعه داده ها می تواند دشوار باشد ، محدودیت در دامنه و در کیفیت نمونه متفاوت است.علاوه بر این ، مجموعه داده ها می توانند در قالب نظارت متفاوت باشند ، از عددی تا باینری و همچنین چند بعدی با مقادیر مختلف.ما یک چارچوب برای LLM های تنظیم دقیق با استفاده از بازخورد ناهمگن ، که دارای دو مؤلفه اصلی است ، ارائه می دهیم.اول ، ما داده های بازخورد ناهمگن را در یک قالب نظارت واحد ترکیب می کنیم ، با روش هایی مانند SFT و RLHF سازگار است.در مرحله بعد ، با توجه به این مجموعه داده بازخورد یکپارچه ، ما یک زیر مجموعه با کیفیت بالا و متنوع را برای به دست آوردن عملکرد به طور بالقوه فراتر از مجموعه داده کامل استخراج می کنیم.ما آزمایش های گسترده ای را برای درک اثربخشی این تکنیک ها برای ترکیب بازخورد ناهمگن انجام می دهیم و از استفاده از یک زیر مجموعه با کیفیت بالا و متنوع از داده ها پیشرفت می کنیم.ما می دانیم که چارچوب ما قادر به بهبود مدل ها در چندین زمینه به طور همزمان ، مانند دستورالعمل های زیر و کاهش تعصب است.