در سال‌های اخیر، مدل‌های زبانی از پیش‌آموزش‌دیده (Pre-trained Language Models – PrLMs) مانند BERT و GPT انقلابی در حوزه پردازش زبان طبیعی (NLP) ایجاد کرده‌اند. این مدل‌ها با یادگیری از حجم عظیمی از داده‌های متنی، بازنمایی‌های غنی و کارآمدی از زبان را فرا می‌گیرند که می‌تواند برای طیف وسیعی از وظایف پایین‌دستی (Downstream Tasks) مانند تحلیل احساسات، ترجمه ماشینی و پاسخ به سوالات، به کار گرفته شود.

با این حال، اکثر این مدل‌های اولیه بر پایه یک هدف آموزشی واحد، مانند «مدل‌سازی زبان نقاب‌دار» (Masked Language Modeling – MLM)، ساخته شده‌اند. این رویکرد تک‌هدفه، اگرچه مؤثر است، اما نمی‌تواند تمام جنبه‌های پیچیده درک زبان را پوشش دهد و ممکن است مدل را به سمت یادگیری سوگیرانه‌ای برای وظایف خاص سوق دهد. برای غلبه بر این محدودیت، محققان به سمت استفاده از اهداف آموزشی چندگانه (Multiple Training Objectives) حرکت کرده‌اند تا مدل‌ها بتوانند درک جامع‌تر و قوی‌تری از زبان به دست آورند.

اما ترکیب چندین هدف آموزشی چالش‌های جدیدی را به همراه دارد. مهم‌ترین چالش این است که چگونه اهمیت نسبی هر هدف را تعیین کنیم و تضادهای بالقوه بین آن‌ها را مدیریت نماییم. تنظیمات دستی و ابتکاری برای نمونه‌برداری از این اهداف، اغلب به نتایج بهینه منجر نمی‌شود. اینجاست که اهمیت مقاله “Forging Multiple Training Objectives for Pre-trained Language Models via Meta-Learning” آشکار می‌شود. این مقاله یک راهکار نوآورانه برای حل این مشکل ارائه می‌دهد: استفاده از «فرا-یادگیری» (Meta-Learning) برای ایجاد یک نمونه‌بردار هوشمند و انطباقی که به طور خودکار بهترین استراتژی ترکیب اهداف را فرا می‌گیرد.

این مقاله حاصل همکاری تیمی از محققان برجسته در حوزه پردازش زبان طبیعی و هوش مصنوعی است: Hongqiu Wu, Ruixue Ding, Hai Zhao, Boli Chen, Pengjun Xie, Fei Huang و Min Zhang. این پژوهشگران در مراکز تحقیقاتی و دانشگاه‌های پیشرو فعالیت دارند و سهم قابل توجهی در پیشرفت مدل‌های زبانی بزرگ ایفا کرده‌اند. این پژوهش در دسته «محاسبات و زبان» (Computation and Language) قرار می‌گیرد که نشان‌دهنده تمرکز آن بر توسعه روش‌های محاسباتی برای درک و تولید زبان انسانی است.

زمینه این تحقیق، تلاش مستمر جامعه علمی برای بهبود کارایی و قابلیت تعمیم‌پذیری مدل‌های زبانی است. در حالی که مدل‌ها بزرگ‌تر و قدرتمندتر می‌شوند، بهینه‌سازی فرآیند آموزش آن‌ها برای دستیابی به حداکثر عملکرد با حداقل هزینه محاسباتی، به یک اولویت اصلی تبدیل شده است. این مقاله دقیقاً به این نیاز پاسخ می‌دهد و راهی برای هوشمندتر کردن فرآیند پیش‌آموزشی ارائه می‌کند.

هدف اصلی مدل‌های زبانی از پیش‌آموزش‌دیده، تعمیم‌پذیری بالا در سناریوهای مختلف است. استفاده از اهداف پیش‌آموزشی چندگانه، به جای یک هدف واحد، می‌تواند به طور قابل توجهی توانایی درک زبان مدل را افزایش داده و این شکاف را پر کند. با این حال، یادگیری همزمان چندین هدف در یک مدل واحد به دلیل عدم آگاهی از اهمیت نسبی هر هدف و همچنین تضادهای احتمالی میان آن‌ها، یک چالش اساسی است.

مطالعات تجربی نشان داده‌اند که روش‌های فعلی نمونه‌برداری از اهداف که عمدتاً بر پایه تنظیمات دستی و موردی (ad-hoc) استوار هستند، به ندرت بازنمایی زبانی را به نقطه بهینه مطلوب می‌رسانند. در پاسخ به این مشکل، نویسندگان این مقاله روشی نوین به نام MOMETAS را پیشنهاد می‌کنند. MOMETAS یک نمونه‌بردار انطباقی مبتنی بر فرا-یادگیری است که الگوی نمونه‌برداری پنهان را برای هر مجموعه دلخواهی از اهداف پیش‌آموزشی، فرا می‌گیرد. این طراحی بسیار سبک بوده و سربار محاسباتی ناچیزی به فرآیند آموزش اضافه می‌کند.

برای اعتبارسنجی رویکرد خود، محققان از پنج هدف آموزشی مختلف استفاده کرده و فرآیند پیش‌آموزشی مداوم (Continual Pre-training) را بر روی مدل‌های BERT-base و BERT-large انجام دادند. نتایج نشان داد که MOMETAS در ۱۴ وظیفه مختلف پردازش زبان طبیعی، بهبود عملکرد جامعی نسبت به سایر استراتژی‌های نمونه‌برداری مبتنی بر قانون (rule-based) از خود نشان می‌دهد.

قلب این مقاله، معماری و منطق پشت MOMETAS است. برای درک بهتر، ابتدا باید چالش اصلی را مرور کنیم: فرض کنید پنج هدف آموزشی مختلف مانند مدل‌سازی زبان نقاب‌دار (MLM)، تشخیص توکن جایگزین شده (RTD)، پیش‌بینی ترتیب جملات (SOP) و غیره داریم. در هر مرحله از آموزش، باید تصمیم بگیریم که مدل بر روی کدام یک از این اهداف تمرکز کند. یک راهکار ساده، نمونه‌برداری یکنواخت (انتخاب هر هدف با احتمال برابر) است، اما این روش بهینه نیست زیرا ممکن است برخی اهداف در مراحل خاصی از آموزش، مهم‌تر از بقیه باشند.

MOMETAS این مشکل را با استفاده از فرا-یادگیری حل می‌کند. فرا-یادگیری که به آن «یادگیریِ یادگرفتن» نیز گفته می‌شود، به جای یادگیری مستقیم یک وظیفه، به دنبال یادگیری فرآیند یا استراتژی بهینه برای یادگیری است. در این مقاله، MOMETAS یاد می‌گیرد که چگونه به بهترین شکل از میان اهداف آموزشی نمونه‌برداری کند.

• عملکرد MOMETAS: این سیستم به عنوان یک «نمونه‌بردار انطباقی» (Adaptive Sampler) عمل می‌کند. به جای استفاده از یک توزیع احتمال ثابت برای انتخاب اهداف، MOMETAS این توزیع را به عنوان مجموعه‌ای از پارامترهای قابل یادگیری در نظر می‌گیرد.
• فرآیند فرا-یادگیری: در هر مرحله، MOMETAS یک استراتژی نمونه‌برداری (مثلاً تخصیص وزن به هر هدف) را پیشنهاد می‌دهد. سپس، مدل زبانی اصلی (مانند BERT) برای چند گام کوچک با استفاده از این استراتژی آموزش می‌بیند. پس از آن، عملکرد مدل بر روی یک مجموعه داده اعتبارسنجی کوچک (meta-validation set) ارزیابی می‌شود. بازخورد حاصل از این ارزیابی برای به‌روزرسانی پارامترهای MOMETAS به کار می‌رود. این چرخه تکرار می‌شود تا MOMETAS یاد بگیرد استراتژی‌ای را انتخاب کند که منجر به سریع‌ترین و بهترین همگرایی برای مدل اصلی شود.
• سبک‌وزن بودن: یکی از مزایای کلیدی این روش، سربار محاسباتی ناچیز آن است. فرآیند فرا-یادگیری بر روی داده‌های بسیار کوچکی انجام می‌شود و به‌روزرسانی پارامترهای نمونه‌بردار بسیار سریع‌تر از به‌روزرسانی وزن‌های مدل زبان اصلی است. به همین دلیل، MOMETAS بدون تحمیل هزینه محاسباتی سنگین، فرآیند پیش‌آموزشی را هوشمندتر می‌کند.

نتایج تجربی این مقاله به طور قاطع برتری MOMETAS را نسبت به روش‌های دیگر نشان می‌دهد. محققان عملکرد این روش را با چندین استراتژی پایه مقایسه کردند:

• نمونه‌برداری یکنواخت (Uniform Sampling): انتخاب هر هدف با احتمال برابر.
• نمونه‌برداری متناسب (Proportional Sampling): انتخاب اهداف بر اساس حجم داده‌های مرتبط با آن‌ها.
• برنامه ثابت دستی (Fixed Schedule): استفاده از یک برنامه از پیش تعیین‌شده و غیرانطباقی.

یافته‌های اصلی به شرح زیر است:

• بهبود عملکرد جامع: MOMETAS به طور مداوم در تمام ۱۴ وظیفه NLP مورد آزمایش، از جمله وظایف موجود در بنچمارک‌های معتبری مانند GLUE، عملکرد بهتری نسبت به سایر استراتژی‌ها از خود نشان داد. این وظایف طیف گسترده‌ای از توانایی‌های زبانی را پوشش می‌دهند، مانند استنتاج زبان طبیعی (NLI)، تحلیل احساسات، تشخیص جملات مشابه و پاسخ به سوالات.
• قابلیت تعمیم به مدل‌های مختلف: این بهبود عملکرد هم بر روی مدل BERT-base و هم بر روی مدل بزرگ‌تر BERT-large مشاهده شد. این موضوع نشان می‌دهد که MOMETAS یک راهکار قوی است که به اندازه مدل وابسته نیست و می‌تواند در مقیاس‌های مختلف به کار گرفته شود.
• یادگیری الگوهای معنادار: تحلیل استراتژی نمونه‌برداری آموخته‌شده توسط MOMETAS نشان داد که این سیستم الگوهای پیچیده و معناداری را فرا می‌گیرد. برای مثال، ممکن است در مراحل اولیه آموزش، وزن بیشتری به اهداف پایه‌ای‌تر بدهد و با پیشرفت آموزش، به تدریج بر روی اهداف پیچیده‌تر تمرکز کند. این پویایی هوشمندانه، کلید موفقیت آن است.

این پژوهش پیامدها و دستاوردهای مهمی برای حوزه هوش مصنوعی و پردازش زبان طبیعی دارد:

۱. پیش‌آموزشی کارآمدتر: MOMETAS به تیم‌های تحقیقاتی و شرکت‌ها اجازه می‌دهد تا از منابع محاسباتی گران‌قیمت خود بهینه‌تر استفاده کنند. با متعادل‌سازی هوشمندانه اهداف، مدل‌ها می‌توانند در زمان کمتر به بازنمایی‌های زبانی بهتری دست یابند که این امر به کاهش هزینه‌ها و اثرات زیست‌محیطی آموزش مدل‌های بزرگ کمک می‌کند.

۲. مدل‌های قوی‌تر و جامع‌تر: هدف نهایی، ساخت مدل‌هایی است که در طیف وسیعی از سناریوها به خوبی عمل کنند. MOMETAS با ترکیب بهینه اطلاعات از منابع مختلف (اهداف آموزشی)، مدل‌هایی تولید می‌کند که قابلیت تعمیم‌پذیری بالاتری دارند و در وظایف جدید و دیده‌نشده، عملکرد بهتری از خود نشان می‌دهند.

۳. دموکراتیزه کردن آموزش چندهدفه: یکی از بزرگ‌ترین موانع برای استفاده از آموزش چندهدفه، نیاز به تخصص بالا برای تنظیم دقیق وزن‌ها و استراتژی‌های نمونه‌برداری بود. MOMETAS با ارائه یک راهکار خودکار و «آماده استفاده» (plug-and-play)، این فرآیند را ساده‌سازی کرده و به محققان بیشتری اجازه می‌دهد تا از مزایای این تکنیک پیشرفته بهره‌مند شوند.

۴. باز کردن مسیرهای تحقیقاتی جدید: این رویکرد می‌تواند به حوزه‌های دیگر نیز گسترش یابد. برای مثال، می‌توان از آن برای ترکیب اهداف آموزشی چندوجهی (multi-modal) که شامل متن، تصویر و صدا هستند، استفاده کرد و راه را برای ساخت مدل‌های هوش مصنوعی جامع‌تر هموار ساخت.

مقاله “Forging Multiple Training Objectives for Pre-trained Language Models via Meta-Learning” یک گام مهم در جهت هوشمندسازی و بهینه‌سازی فرآیند آموزش مدل‌های زبانی بزرگ برمی‌دارد. این پژوهش به طور مؤثری به چالش کلیدی متعادل‌سازی اهداف آموزشی چندگانه پاسخ می‌دهد؛ مشکلی که پیش از این عمدتاً با روش‌های دستی و ناکارآمد حل می‌شد.

نویسندگان با معرفی MOMETAS، یک نمونه‌بردار انطباقی سبک‌وزن مبتنی بر فرا-یادگیری، نشان دادند که می‌توان به طور خودکار استراتژی بهینه نمونه‌برداری را فرا گرفت. نتایج تجربی قوی بر روی ۱۴ وظیفه NLP و مدل‌های BERT در اندازه‌های مختلف، اثربخشی این رویکرد را به وضوح اثبات می‌کند. این تحقیق نه تنها به ساخت مدل‌های زبانی قوی‌تر و کارآمدتر کمک می‌کند، بلکه راه را برای探索 ترکیبات پیچیده‌تر و نوآورانه‌تر از اهداف آموزشی در آینده هموار می‌سازد و به پیشبرد مرزهای هوش مصنوعی کمک شایانی می‌نماید.