در دنیای امروز که حجم داده‌های متنی به صورت تصاعدی در حال افزایش است، «طبقه‌بندی متن» (Text Classification) به یکی از وظایف بنیادین در حوزه پردازش زبان طبیعی (NLP) تبدیل شده است. از تحلیل احساسات مشتریان در شبکه‌های اجتماعی گرفته تا دسته‌بندی ایمیل‌های اسپم و مسیریابی تیکت‌های پشتیبانی، همگی به توانایی ماشین در درک و دسته‌بندی متون وابسته‌اند. با این حال، روش‌های سنتی طبقه‌بندی متن با چالش‌های جدی مواجه هستند؛ فرآیندهای آموزشی این مدل‌ها اغلب نیازمند مجموعه‌داده‌های برچسب‌دار بسیار بزرگ، هزینه‌های محاسباتی سنگین و زمان طولانی برای آموزش و تنظیم دقیق (Fine-tuning) هستند. علاوه بر این، عملکرد آن‌ها در مواجهه با دسته‌های جدیدی که در داده‌های آموزشی وجود نداشته‌اند، بسیار ضعیف است.

مقاله «مدل‌های زبانی بزرگ، طبقه‌بندی‌کننده‌های صفر-شات متن» که توسط ژیچیانگ وانگ، ییران پنگ و یانبین لین به رشته تحریر درآمده، یک راهکار نوآورانه و تحول‌آفرین برای این چالش‌ها ارائه می‌دهد. این تحقیق نشان می‌دهد که چگونه می‌توان از مدل‌های زبانی بزرگ (LLMs) مانند مدل‌های خانواده GPT، بدون هیچ‌گونه آموزش یا تنظیم مجدد، به عنوان طبقه‌بندی‌کننده‌های متنی قدرتمند استفاده کرد. این رویکرد که با نام یادگیری صفر-شات (Zero-Shot Learning) شناخته می‌شود، نه تنها محدودیت‌های محاسباتی و زمانی را برطرف می‌کند، بلکه درهای جدیدی را به روی کاربردهایی می‌گشاید که پیش از این به دلیل نبود داده‌های کافی، غیرممکن به نظر می‌رسیدند. اهمیت این مقاله در تغییر پارادایم از «آموزش مدل‌های تخصصی» به «استفاده هوشمندانه از مدل‌های عمومی» نهفته است.

این مقاله توسط تیمی از پژوهشگران به نام‌های ژیچیانگ وانگ (Zhiqiang Wang)، ییران پنگ (Yiran Pang) و یانبین لین (Yanbin Lin) نوشته شده است. این تحقیق در دسته «محاسبات و زبان» (Computation and Language) قرار می‌گیرد که یکی از شاخه‌های اصلی علوم کامپیوتر و هوش مصنوعی است. این حوزه بر توسعه مدل‌ها و الگوریتم‌هایی تمرکز دارد که به ماشین‌ها امکان درک، تولید و تعامل با زبان انسان را می‌دهند.

این پژوهش در بستر تحولات اخیر در زمینه مدل‌های زبانی بزرگ انجام شده است. ظهور مدل‌هایی مانند GPT-3 و نسخه‌های پس از آن، قابلیت‌های بی‌سابقه‌ای را در تولید متن، خلاصه‌سازی، ترجمه و استدلال به نمایش گذاشته است. نویسندگان این مقاله با درک عمیق از این پتانسیل، تمرکز خود را از کاربردهای تولیدی (Generative) به سمت کاربردهای تحلیلی و استدلالی (Reasoning) این مدل‌ها سوق داده‌اند و نشان می‌دهند که دانش عظیم نهفته در این مدل‌ها می‌تواند مستقیماً برای وظایف طبقه‌بندی به کار گرفته شود.

پژوهش حاضر به بررسی و اعتبارسنجی توانایی مدل‌های زبانی بزرگ، به ویژه مدل‌های GPT، در انجام وظیفه طبقه‌بندی متن به شیوه صفر-شات می‌پردازد. نویسندگان استدلال می‌کنند که مدل‌های سنتی یادگیری ماشین و یادگیری عمیق، علی‌رغم کارایی بالا، به دلیل نیاز به منابع محاسباتی گسترده، زمان طولانی برای آموزش و عملکرد ضعیف در برابر دسته‌های نادیده (unseen classes)، با محدودیت‌هایی روبرو هستند. این مقاله یک راه حل جایگزین ارائه می‌دهد: استفاده مستقیم از LLMهای از پیش آموزش‌دیده برای پیش‌بینی دسته‌های متنی، چه آن‌هایی که در گذشته دیده‌ شده‌اند و چه دسته‌های کاملاً جدید.

محور اصلی این تحقیق، بهره‌گیری از استراتژی‌های اعلان‌نویسی (Prompting) پیشرفته، به خصوص تکنیک زنجیره تفکر (Chain of Thought – CoT) است. برخلاف اعلان‌های پرسش و پاسخ ساده، CoT مدل را وادار می‌کند تا فرآیند استدلال خود را به صورت گام به گام شرح دهد و سپس به نتیجه‌گیری نهایی برسد. این رویکرد به طور قابل توجهی دقت و قابلیت اطمینان مدل در وظایف پیچیده را افزایش می‌دهد. محققان در این پژوهش، عملکرد LLMهای صفر-شات را با طیف وسیعی از روش‌های پیشرفته دیگر، از جمله روش‌های سنتی یادگیری ماشین (مانند SVM)، مدل‌های یادگیری عمیق (مانند BERT) و سایر روش‌های ZSL مقایسه کرده‌اند.

روش‌شناسی این تحقیق بر پایه سه رکن اصلی بنا شده است: یادگیری صفر-شات، مدل‌های زبانی بزرگ و مهندسی اعلان با رویکرد زنجیره تفکر.

• یادگیری صفر-شات (ZSL): در یادگیری ماشین سنتی، یک مدل برای طبقه‌بندی متن به دسته‌های «ورزشی»، «سیاسی» و «فناوری» باید هزاران نمونه از هر دسته را ببیند. اما در رویکرد ZSL، مدل بدون دیدن حتی یک نمونه برچسب‌دار از این دسته‌ها، قادر به طبقه‌بندی است. این توانایی از دانش عمومی و گسترده‌ای که LLM در مرحله پیش‌آموزش خود از میلیاردها صفحه وب و کتاب کسب کرده، نشأت می‌گیرد. مدل به جای یادگیری الگوهای آماری از نمونه‌ها، مفهوم هر دسته را درک کرده و متن ورودی را با آن مفهوم مطابقت می‌دهد.
• مدل‌های زبانی بزرگ (LLMs): این تحقیق از مدل‌های خانواده GPT به عنوان ابزار اصلی استفاده می‌کند. این مدل‌ها به دلیل معماری مبتنی بر ترنسفورمر و آموزش بر روی حجم عظیمی از داده‌های متنی، توانایی فوق‌العاده‌ای در درک زمینه‌ها، روابط معنایی و استدلال منطقی دارند. این ویژگی‌ها آن‌ها را به کاندیدای ایده‌آلی برای پیاده‌سازی ZSL تبدیل می‌کند.
• اعلان‌نویسی به روش زنجیره تفکر (CoT Prompting): این تکنیک، کلید موفقیت روش پیشنهادی است. به جای یک اعلان ساده مانند:
  
  «این متن را به یکی از دسته‌های [اخبار، سرگرمی، ورزشی] طبقه‌بندی کن: [متن خبر]»
  
  یک اعلان CoT فرآیند فکری را برای مدل شبیه‌سازی می‌کند:
  
  «متن زیر را با دقت بخوان. ابتدا موضوع اصلی و کلمات کلیدی آن را مشخص کن. سپس تحلیل کن که این موضوع به کدام یک از حوزه‌های اخبار، سرگرمی یا ورزشی نزدیک‌تر است. دلایل خود را گام به گام توضیح بده و در نهایت، دسته نهایی را اعلام کن. متن: [متن خبر]»
  
  این رویکرد به مدل کمک می‌کند تا از نتیجه‌گیری‌های شتاب‌زده پرهیز کرده و با تحلیل عمیق‌تر، به پاسخ دقیق‌تری برسد.

برای ارزیابی این رویکرد، محققان عملکرد آن را بر روی چهار مجموعه داده استاندارد در حوزه طبقه‌بندی متن آزمودند و نتایج را با سه گروه از روش‌های رقیب مقایسه کردند:

1. روش‌های سنتی یادگیری ماشین: مدل‌هایی مانند Support Vector Machines (SVM) و Naive Bayes که نیاز به استخراج دستی ویژگی (feature engineering) دارند.
2. روش‌های یادگیری عمیق: مدل‌های پیشرفته‌ای مانند BERT و RoBERTa که برای هر وظیفه خاص نیاز به تنظیم دقیق (Fine-tuning) روی داده‌های برچسب‌دار دارند.
3. سایر روش‌های یادگیری صفر-شات: رویکردهای ZSL قدیمی‌تر که قبل از ظهور LLMهای مدرن توسعه یافته بودند.

نتایج تجربی این تحقیق بسیار قابل توجه و امیدوارکننده بود. یافته اصلی این است که LLMها با استفاده از اعلان‌نویسی CoT، در سه مورد از چهار مجموعه داده مورد بررسی، عملکردی بهتر یا قابل مقایسه با روش‌های پیشرفته (State-of-the-art) از جمله مدل‌های یادگیری عمیق که به طور خاص برای آن وظیفه آموزش دیده‌اند، از خود نشان دادند.

این یافته چند پیام مهم در بر دارد:

• قدرت تعمیم‌پذیری بالا: LLMها می‌توانند دانش عمومی خود را به وظایف تخصصی تعمیم دهند بدون آنکه نیاز به داده‌های آموزشی خاص آن وظیفه داشته باشند. این نشان‌دهنده درک عمیق‌تر و مفهومی‌تر زبان توسط این مدل‌ها در مقایسه با مدل‌های قدیمی‌تر است.
• اثربخشی اعلان‌نویسی CoT: نتایج تأیید کردند که نحوه درخواست از مدل (prompting) تأثیر مستقیمی بر عملکرد آن دارد. روش زنجیره تفکر به طور مشخصی به بهبود دقت در طبقه‌بندی‌های پیچیده و چندوجهی کمک می‌کند.
• عملکرد در شرایط چالش‌برانگیز: توانایی مدل در طبقه‌بندی دسته‌های نادیده (unseen classes) یکی از برجسته‌ترین نتایج بود. این ویژگی در سناریوهای دنیای واقعی که دسته‌ها ممکن است به مرور زمان تغییر کرده یا دسته‌های جدیدی ظهور کنند (مانند موضوعات خبری جدید)، بسیار ارزشمند است.

هرچند در یکی از چهار مجموعه داده، عملکرد LLMها به اندازه روش‌های دیگر قوی نبود، این موضوع نیز خود یک یافته مهم است و نشان می‌دهد که این رویکرد ممکن است در برخی حوزه‌های بسیار تخصصی با اصطلاحات منحصربه‌فرد یا دسته‌های بسیار ظریف و مبهم، با محدودیت‌هایی مواجه باشد که نیازمند تحقیقات بیشتر است.

دستاورد اصلی این مقاله، «دموکراتیزه کردن» فناوری پیشرفته طبقه‌بندی متن است. همانطور که نویسندگان اشاره می‌کنند، این روش به ویژه برای کسب‌وکارهای کوچک یا تیم‌هایی که تخصص عمیق در یادگیری ماشین ندارند، بسیار سودمند است. پیش از این، پیاده‌سازی یک سیستم طبقه‌بندی متن دقیق، نیازمند استخدام متخصصان داده، جمع‌آوری و برچسب‌زنی هزاران نمونه داده و تأمین زیرساخت‌های محاسباتی گران‌قیمت بود. اما اکنون، یک تیم کوچک می‌تواند با دسترسی به یک API از یک LLM قدرتمند و با نوشتن چند اعلان هوشمندانه، به نتایجی مشابه یا حتی بهتر دست یابد.

برخی از کاربردهای عملی این رویکرد عبارتند از:

• تحلیل بازخورد مشتریان: یک استارتاپ می‌تواند به سرعت نظرات کاربران را از فروشگاه‌های اپلیکیشن یا شبکه‌های اجتماعی جمع‌آوری کرده و آن‌ها را به دسته‌هایی مانند «گزارش باگ»، «درخواست ویژگی جدید»، «مشکلات رابط کاربری» و «بازخورد مثبت» طبقه‌بندی کند.
• مدیریت محتوا: یک وب‌سایت خبری می‌تواند مقالات را به صورت خودکار و در لحظه به ده‌ها دسته موضوعی مختلف (حتی موضوعات نوظهور) اختصاص دهد، بدون نیاز به آموزش مداوم مدل.
• سیستم‌های پشتیبانی هوشمند: ایمیل‌ها و تیکت‌های پشتیبانی می‌توانند به طور خودکار بر اساس ماهیت مشکل (مانند «مشکل پرداخت»، «سوال فنی»، «شکایت») دسته‌بندی و به دپارتمان مربوطه ارجاع داده شوند.
• پایش و امنیت: شناسایی سریع محتوای نامناسب، اخبار جعلی یا کلام نفرت‌پراکن در پلتفرم‌های آنلاین با تعریف دسته‌های مربوطه برای مدل.

کاهش چشمگیر در هزینه، زمان و پیچیدگی فنی، مهم‌ترین دستاورد این پژوهش برای صنعت و کسب‌وکارهاست.

مقاله «مدل‌های زبانی بزرگ، طبقه‌بندی‌کننده‌های صفر-شات متن» شواهد قانع‌کننده‌ای ارائه می‌دهد که نشان می‌دهد پارادایم پردازش زبان طبیعی در حال تغییر است. ما از دورانی که برای هر وظیفه یک مدل تخصصی و جداگانه آموزش می‌دادیم، به عصری وارد می‌شویم که در آن می‌توانیم از یک مدل زبانی بزرگ و عمومی برای انجام طیف وسیعی از وظایف، تنها با برقراری ارتباط موثر از طریق «اعلان‌ها» (Prompts)، استفاده کنیم.

این پژوهش به طور مشخص ثابت می‌کند که LLMها صرفاً ابزارهای تولید متن نیستند، بلکه استدلال‌کنندگان قدرتمندی هستند که می‌توانند وظایف تحلیلی پیچیده‌ای مانند طبقه‌بندی را با دقت بالا و بدون نیاز به آموزش مجدد انجام دهند. رویکرد یادگیری صفر-شات با کمک تکنیک زنجیره تفکر، موانع ورود به دنیای هوش مصنوعی را برای بسیاری از سازمان‌ها کاهش داده و راه را برای نوآوری‌های سریع‌تر و مقرون‌به‌صرفه‌تر هموار می‌سازد. این تحقیق نه تنها یک دستاورد فنی، بلکه گامی مهم به سوی هوش مصنوعی عمومی‌تر و در دسترس‌تر است.