ترجمه فارسی مقاله یک چارچوب پویای یکپارچه مبتنی بر روانشناسی برای یادگیری برنامه درسی

چکیده

Directly learning from examples of random difficulty levels is often challenging for both humans and machine learning models. A more effective strategy involves exposing learners to examples in a progressive order, from easy to difficult. Curriculum Learning (CL) has been proposed to implement this strategy in machine learning model training. However, two key challenges persist in CL framework design: defining the difficulty of training data and determining the appropriate amount of data to input at each training step. This paper presents a Psychology-based Unified Dynamic Framework for Curriculum Learning (PUDF), drawing inspiration from psychometrics. We quantify the difficulty of training data by applying Item Response Theory (IRT) to responses from Artificial Crowds (AC). This theory-driven IRT-AC approach leads to global (i.e., model-independent) and interpretable difficulty values. Leveraging IRT, we propose a Dynamic Data Selection via Model Ability Estimation (DDS-MAE) strategy to schedule the appropriate amount of data during model training. Since our difficulty labeling and model ability estimation are based on a consistent theory, namely IRT, their values are comparable within the same scope, potentially leading to a faster convergence compared to the other CL methods. Experimental results demonstrate that fine-tuning pre-trained language models with PUDF enhances their performance on the GLUE benchmark. Moreover, PUDF surpasses other state-of-the-art (SOTA) CL methods on the GLUE benchmark. We further explore the components of PUDF, namely the difficulty measurer (IRT-AC) and the training scheduler (DDS-MAE) qualitatively and quantitatively. Lastly, we conduct an ablation study to clarify which components of PUDF contribute to faster convergence and higher accuracy.

چکیده به فارسی (ترجمه ماشینی)

یادگیری مستقیم از نمونه هایی از سطح دشواری تصادفی اغلب برای هر دو مدل یادگیری ماشین و ماشین چالش برانگیز است.یک استراتژی مؤثرتر شامل افشای زبان آموزان در برابر نمونه هایی در یک نظم مترقی ، از آسان تا دشوار است.یادگیری برنامه درسی (CL) برای اجرای این استراتژی در آموزش مدل یادگیری ماشین پیشنهاد شده است.با این حال ، دو چالش مهم در طراحی چارچوب CL ادامه دارد: تعریف دشواری در آموزش داده ها و تعیین میزان مناسب داده ها برای ورود در هر مرحله آموزش.در این مقاله یک چارچوب پویا یکپارچه مبتنی بر روانشناسی برای یادگیری برنامه درسی (PUDF) ارائه شده است ، و الهام بخش از روان سنجی است.ما با استفاده از تئوری پاسخ مورد (IRT) به پاسخ های جمعیت مصنوعی (AC) ، دشواری داده های آموزش را کمیت می کنیم.این رویکرد IRT-AC تئوری محور منجر به ارزشهای جهانی (به عنوان مثال ، مستقل از مدل) و قابل تفسیر می شود.با استفاده از IRT ، ما یک استراتژی انتخاب داده های پویا را از طریق استراتژی تخمین توانایی مدل (DDS-MAE) پیشنهاد می کنیم تا مقدار مناسب داده ها را در طول آموزش مدل برنامه ریزی کنیم.از آنجا که برچسب زدن مشکل ما و برآورد توانایی مدل مبتنی بر یک تئوری سازگار ، یعنی IRT است ، مقادیر آنها در همان محدوده قابل مقایسه است ، که به طور بالقوه منجر به همگرایی سریعتر در مقایسه با سایر روشهای CL می شود.نتایج تجربی نشان می دهد که مدل های زبان قبل از آموزش خوب با PUDF عملکرد آنها را در معیار چسب تقویت می کند.علاوه بر این ، پودف از سایر روشهای پیشرفته (SOTA) CL در معیار چسب پیشی می گیرد.ما در ادامه اجزای PUDF ، یعنی دشواری اندازه گیری (IRT-AC) و برنامه ریزی آموزش (DDS-MAE) را از نظر کیفی و کمی بررسی می کنیم.سرانجام ، ما یک مطالعه فرسایش را انجام می دهیم تا مشخص کنیم کدام مؤلفه های PUDF به همگرایی سریعتر و دقت بالاتر کمک می کند.