در دنیای پویای پردازش زبان طبیعی (NLP)، الگوریتم‌ها به پیشرفت‌های چشمگیری دست یافته‌اند. با این حال، هنگامی که با داده‌هایی مواجه می‌شوند که از توزیع داده‌های آموزشی آن‌ها خارج هستند (به اصطلاح داده‌های out-of-distribution)، عملکرد آن‌ها به شدت کاهش می‌یابد. این مشکل، به‌ویژه زمانی حادتر می‌شود که الگوریتم در معرض دامنه‌های (domains) دیده نشده قرار می‌گیرد؛ یعنی دامنه‌هایی که در زمان آموزش، هیچ‌گونه اطلاعاتی (نه داده برچسب‌دار، نه داده بدون برچسب و نه هیچ‌گونه دانش دیگری) در مورد آن‌ها وجود نداشته است. مقاله حاضر، به بررسی راهکاری نوین برای حل این چالش مهم می‌پردازد.

این مقاله توسط ایال بن-دیوید، ناداو اُود و روی رایشارت ارائه شده است. این محققان در زمینه‌های پردازش زبان طبیعی، هوش مصنوعی و یادگیری ماشین تخصص دارند. تمرکز اصلی تحقیقات آن‌ها بر روی بهبود قابلیت انطباق الگوریتم‌های NLP با داده‌های جدید و ناآشنا است.

مقاله “PADA: یادگیری سریع Prompt بر پایه مثال برای انطباق آنی با دامنه‌های دیده نشده”، به معرفی الگوریتمی جدید به نام PADA (مخفف: Example-based autoregressive Prompt learning algorithm for on-the-fly Any-Domain Adaptation) می‌پردازد. PADA یک روش یادگیری prompt خود-رگرسیونی بر پایه مثال است که برای انطباق سریع و آنی با دامنه‌های دیده نشده طراحی شده است. این الگوریتم بر پایه مدل زبانی T5 ساخته شده است و به گونه‌ای عمل می‌کند که ابتدا برای هر نمونه ورودی، یک prompt منحصربه‌فرد تولید می‌کند و سپس، با شرط‌بندی بر روی این prompt، برچسب (label) مناسب را به نمونه تخصیص می‌دهد.

PADA به گونه‌ای آموزش داده می‌شود که یک prompt را به صورت دنباله‌ای از توکن‌ها با طول نامحدود تولید کند. این توکن‌ها، ویژگی‌های مرتبط با دامنه (Domain Related Features – DRFs) هستند که هر یک از دامنه‌های منبع (source domains) را مشخص می‌کنند. به بیان ساده‌تر، prompt تولید شده، یک امضای منحصربه‌فرد است که نمونه ورودی را به یک فضای معنایی (semantic space) نگاشت می‌کند که توسط دامنه‌های منبع تعریف شده است. به عنوان مثال، فرض کنید مدل با بررسی نظرات کاربران در مورد محصولات مختلف (مانند گوشی موبایل و تبلت) آموزش داده شده باشد. حال اگر بخواهیم احساسات کاربران را در مورد یک محصول جدید (مثلا یک ساعت هوشمند) تشخیص دهیم، PADA سعی می‌کند با تولید یک prompt مناسب، این ساعت هوشمند را در فضای معنایی گوشی موبایل و تبلت قرار دهد و با توجه به ویژگی‌های مشابه، احساسات کاربران را پیش‌بینی کند.

روش‌شناسی تحقیق در این مقاله، بر پایه رویکرد یادگیری prompt استوار است. در این روش، به جای آنکه مدل به طور مستقیم برای انجام یک وظیفه خاص آموزش داده شود، از آن خواسته می‌شود تا با استفاده از یک “prompt” (یک عبارت کوتاه متنی)، دانش خود را برای حل مسئله به کار گیرد. PADA از این روش به شکلی نوآورانه استفاده می‌کند؛ به این صورت که به جای استفاده از promptهای ثابت و از پیش تعیین شده، برای هر نمونه ورودی، یک prompt منحصربه‌فرد تولید می‌کند.

مراحل اصلی روش‌شناسی PADA به شرح زیر است:

• تولید ویژگی‌های مرتبط با دامنه (DRFs): ابتدا، ویژگی‌های کلیدی هر یک از دامنه‌های منبع استخراج می‌شوند. این ویژگی‌ها می‌توانند شامل کلمات کلیدی، عبارات خاص و یا الگوهای زبانی باشند که به طور خاص در آن دامنه استفاده می‌شوند.
• آموزش مدل T5 برای تولید Prompt: مدل T5 به گونه‌ای آموزش داده می‌شود که با دریافت یک نمونه ورودی، دنباله‌ای از توکن‌ها (DRFs) را تولید کند که به بهترین شکل، آن نمونه را به دامنه‌های منبع مرتبط کند.
• پیش‌بینی برچسب با استفاده از Prompt: در نهایت، prompt تولید شده به عنوان ورودی به مدل T5 داده می‌شود تا برچسب مناسب برای نمونه ورودی پیش‌بینی شود.

برای آموزش و ارزیابی PADA، از داده‌های مربوط به سه وظیفه مختلف NLP استفاده شده است: طبقه‌بندی متن، برچسب‌گذاری توالی و تحلیل احساسات. این آزمایش‌ها در مجموع شامل 14 سناریوی مختلف انطباق چند-منبعی (multi-source adaptation) بوده است.

نتایج آزمایش‌ها نشان می‌دهد که PADA به طور قابل توجهی از روش‌های پایه قوی (strong baselines) بهتر عمل می‌کند. این بهبود عملکرد، به ویژه در سناریوهایی که تفاوت زیادی بین دامنه‌های منبع و دامنه هدف وجود دارد، چشمگیرتر است. یافته‌های کلیدی این مقاله را می‌توان به صورت زیر خلاصه کرد:

• PADA قادر است به طور موثر، ویژگی‌های مرتبط با دامنه را استخراج و از آن‌ها برای تولید promptهای مناسب استفاده کند.
• promptهای تولید شده توسط PADA، اطلاعات مفیدی را در مورد دامنه نمونه ورودی ارائه می‌دهند.
• PADA می‌تواند به طور موثر با دامنه‌های دیده نشده انطباق پیدا کند و عملکرد بهتری نسبت به روش‌های سنتی داشته باشد.

به عنوان مثال، در یکی از آزمایش‌ها، PADA توانست دقت طبقه‌بندی متن را در یک دامنه دیده نشده، به میزان 15 درصد نسبت به بهترین روش پایه بهبود بخشد. این نشان می‌دهد که PADA می‌تواند یک راهکار قدرتمند برای حل مشکل انطباق دامنه در NLP باشد.

الگوریتم PADA دارای کاربردهای بالقوه فراوانی در زمینه‌های مختلف NLP است. برخی از مهم‌ترین کاربردهای آن عبارتند از:

• تحلیل احساسات در شبکه‌های اجتماعی: PADA می‌تواند برای تحلیل احساسات کاربران در مورد موضوعات مختلف در شبکه‌های اجتماعی مورد استفاده قرار گیرد، حتی اگر این موضوعات قبلاً در داده‌های آموزشی وجود نداشته باشند.
• طبقه‌بندی اخبار: PADA می‌تواند برای طبقه‌بندی اخبار در دسته‌بندی‌های مختلف مورد استفاده قرار گیرد، حتی اگر این دسته‌بندی‌ها جدید باشند و قبلاً در داده‌های آموزشی تعریف نشده باشند.
• ترجمه ماشینی: PADA می‌تواند برای بهبود کیفیت ترجمه ماشینی در شرایطی که داده‌های آموزشی کافی برای زبان مبدا و مقصد وجود ندارد، مورد استفاده قرار گیرد.

دستاورد اصلی این مقاله، ارائه یک روش نوین و موثر برای حل مشکل انطباق دامنه در NLP است. PADA با استفاده از رویکرد یادگیری prompt و تولید promptهای منحصربه‌فرد برای هر نمونه ورودی، قادر است به طور قابل توجهی عملکرد الگوریتم‌های NLP را در دامنه‌های دیده نشده بهبود بخشد.

مقاله PADA یک گام مهم در جهت توسعه الگوریتم‌های NLP است که می‌توانند به طور موثر با داده‌های جدید و ناآشنا انطباق پیدا کنند. PADA با ارائه یک راهکار نوآورانه برای تولید promptهای منحصربه‌فرد، توانسته است عملکرد قابل توجهی در دامنه‌های دیده نشده به دست آورد. این الگوریتم دارای کاربردهای بالقوه فراوانی در زمینه‌های مختلف NLP است و می‌تواند به بهبود کیفیت بسیاری از برنامه‌های کاربردی مبتنی بر زبان طبیعی کمک کند. تحقیقات آینده می‌تواند بر روی بهبود بیشتر PADA و بررسی کاربردهای آن در زمینه‌های جدید تمرکز کند.