در سال‌های اخیر، مدل‌های زبان بزرگ (LLMs) مانند سری GPT، انقلابی در حوزه هوش مصنوعی و پردازش زبان طبیعی ایجاد کرده‌اند. یکی از برجسته‌ترین توانایی‌های این مدل‌ها، قابلیت استدلال در مسائل پیچیده است. روش «زنجیره تفکر» (Chain-of-Thought – CoT) به عنوان یکی از مؤثرترین تکنیک‌ها برای بهبود این قابلیت شناخته می‌شود. در این روش، به جای ارائه پاسخ نهایی، مدل تشویق می‌شود تا مراحل میانی استدلال خود را نیز تولید کند، که این امر به شکل چشمگیری دقت پاسخ را در مسائل ریاضی، منطقی و علمی افزایش می‌دهد.

موفقیت CoT به شدت به کیفیت مثال‌هایی بستگی دارد که در قالب «یادگیری در متن» (In-Context Learning – ICL) به مدل ارائه می‌شود. تاکنون، رویکرد غالب برای انتخاب این مثال‌ها، یافتن سوالاتی مشابه با سوال ورودی بوده است. اما پژوهش‌ها نشان داده‌اند که شباهت در «مسیر استدلال» یا «منطق حل مسئله» بسیار مهم‌تر از شباهت سطحی سوالات است. شناسایی و انتخاب مثال‌ها بر اساس این منطق استدلال، چالشی بزرگ محسوب می‌شود.

مقاله «LaRS: مهارت‌های استدلال نهفته برای استدلال زنجیره تفکر» یک راهکار نوآورانه و خودکار برای این چالش ارائه می‌دهد. این مقاله روشی را معرفی می‌کند که بدون نیاز به دخالت انسان یا استفاده از مدل‌های زبان بزرگ دیگر برای برچسب‌زنی، قادر است «مهارت‌های استدلال» پنهان در مثال‌ها را کشف کرده و از آن‌ها برای انتخاب بهینه‌ترین نمونه‌ها استفاده کند. اهمیت این پژوهش در ارائه یک چارچوب مقیاس‌پذیر، کارآمد و مستحکم برای بهینه‌سازی یکی از قدرتمندترین تکنیک‌های هوش مصنوعی نهفته است.

این مقاله حاصل همکاری گروهی از پژوهشگران برجسته به نام‌های Zifan Xu، Haozhu Wang، Dmitriy Bespalov، Xian Wu، Peter Stone و Yanjun Qi است. این محققان در مراکز علمی و صنعتی پیشرو در زمینه هوش مصنوعی و یادگیری ماشین فعالیت دارند و سوابق درخشانی در حوزه‌هایی چون پردازش زبان طبیعی، یادگیری تقویتی و یادگیری عمیق دارند.

زمینه این تحقیق در تقاطع سه حوزه کلیدی قرار دارد:

• پردازش زبان طبیعی (NLP): تمرکز بر درک و تولید زبان انسان توسط ماشین.
• یادگیری ماشین (Machine Learning): به‌ویژه یادگیری بدون ناظر (Unsupervised Learning) که هدف آن کشف الگوها در داده‌های بدون برچسب است.
• بهبود استدلال مدل‌های زبان بزرگ (LLM Reasoning): شاخه‌ای نوظهور که به دنبال افزایش قابلیت‌های منطقی و حل مسئله در مدل‌های زبانی است.

این مقاله به یک مشکل کاملاً عملی و در عین حال بنیادین در کاربرد LLMها می‌پردازد: چگونه می‌توان فرآیند مهندسی پرامپت (Prompt Engineering) را خودکار و بهینه کرد تا استدلال مدل‌ها به حداکثر پتانسیل خود برسد.

روش «زنجیره تفکر» (CoT) یک رویکرد محبوب در «یادگیری در متن» (ICL) برای مدل‌های زبان بزرگ (LLMs) است که به ویژه در وظایف استدلال پیچیده کارایی بالایی دارد. رویکردهای سنتی ICL، پرامپت‌ها را با استفاده از مثال‌هایی می‌سازند که سوالات آن‌ها به سوال ورودی شباهت دارد. با این حال، CoT که شامل مراحل استدلال میانی (منطق‌ها) است، نیازمند انتخاب مثال‌ها بر اساس این منطق‌ها و نه خود سوالات است.

روش‌های موجود برای این کار نیازمند دخالت کارشناسان انسانی یا استفاده از LLMهای از پیش آموزش‌دیده برای توصیف «مهارت» (یک مفهوم انتزاعی از منطق استدلال) هستند تا فرآیند انتخاب را هدایت کنند. این روش‌ها اغلب پرهزینه و مقیاس‌پذیر نیستند. در مقابل، این مقاله رویکرد جدیدی به نام مهارت‌های استدلال نهفته (Latent Reasoning Skills – LaRS) را معرفی می‌کند که با استفاده از یادگیری بدون ناظر، یک نمایش در فضای نهفته از منطق‌ها ایجاد می‌کند. در این فضا، یک متغیر نهفته به نام «مهارت استدلال» تعریف می‌شود.

به طور همزمان، LaRS یک «سیاست استدلال» (Reasoning Policy) را می‌آموزد تا مهارت استدلال مورد نیاز برای یک سوال مشخص را تعیین کند. سپس مثال‌های ICL با تطبیق مهارت‌های استدلال بین مثال‌های گذشته و سوال جدید انتخاب می‌شوند. این رویکرد دارای مبانی نظری قوی و از نظر محاسباتی کارآمد است و نیاز به فراخوانی LLM کمکی یا طراحی دستی پرامپت را از بین می‌برد. نتایج تجربی نشان می‌دهد که LaRS به طور مداوم از روش‌های انتخاب مبتنی بر مهارت پیشرفته (SOTA) بهتر عمل می‌کند، بانک‌های مثال را چهار برابر سریع‌تر پردازش می‌کند، فراخوانی LLMها را در مرحله انتخاب به نصف کاهش می‌دهد و در برابر بانک‌های مثال با کیفیت پایین‌تر، استواری بیشتری از خود نشان می‌دهد.

نوآوری اصلی LaRS در رویکرد دوگانه و خودکار آن برای کشف و تطبیق مهارت‌های استدلال نهفته است. این روش‌شناسی بر پایه اصول یادگیری بدون ناظر بنا شده و از دو جزء اصلی تشکیل شده است:

1. یادگیری فضای نهفته مهارت‌ها (Skill Latent Space Learning):
   به جای تعریف صریح مهارت‌ها توسط انسان، LaRS یک رمزگذار مهارت (Skill Encoder) را آموزش می‌دهد. این رمزگذار، مراحل استدلال (منطق یا Rationale) یک مثال حل‌شده را به عنوان ورودی دریافت کرده و آن را به یک بردار عددی در یک «فضای نهفته» چندبعدی نگاشت می‌کند. در این فضا، منطق‌هایی که از یک الگوی استدلالی مشابه پیروی می‌کنند (مثلاً تجزیه مسئله به مراحل کوچک‌تر یا استفاده از یک فرمول خاص)، در نزدیکی یکدیگر قرار می‌گیرند. هر ناحیه در این فضا نمایانگر یک «مهارت استدلال نهفته» است. این فرآیند کاملاً بدون نظارت انجام می‌شود و الگوها را به طور مستقیم از داده‌ها کشف می‌کند.
2. یادگیری سیاست استدلال (Reasoning Policy Learning):
   هدف نهایی، انتخاب مثال مناسب برای یک *سوال جدید* است که هنوز حل نشده و منطق آن مشخص نیست. برای این منظور، LaRS یک مدل دیگر به نام «سیاست استدلال» (Reasoning Policy) را آموزش می‌دهد. این مدل، متن سوال جدید را به عنوان ورودی می‌گیرد و پیش‌بینی می‌کند که کدام مهارت (یعنی کدام نقطه در فضای نهفته) برای حل آن مورد نیاز است. در واقع، این سیاست یاد می‌گیرد که ساختار یک سوال را به نوع استدلال لازم برای حل آن مرتبط کند.

فرآیند انتخاب مثال در عمل:

• مرحله آماده‌سازی: تمام مثال‌های موجود در بانک داده یک بار توسط رمزگذار مهارت پردازش شده و بردار مهارت نهفته هر یک محاسبه و ذخیره می‌شود.
• مرحله استنتاج:
  1. یک سوال جدید به سیستم داده می‌شود.
  2. سیاست استدلال، بردار مهارت مورد نیاز برای این سوال را پیش‌بینی می‌کند.
  3. سیستم با استفاده از معیاری مانند «شباهت کسینوسی»، مثال‌هایی را از بانک داده پیدا می‌کند که بردارهای مهارت آن‌ها بیشترین شباهت را به بردار پیش‌بینی‌شده دارند.
  4. این مثال‌های منتخب برای ساخت پرامپت CoT نهایی استفاده شده و به LLM اصلی برای حل سوال ارائه می‌شوند.

این معماری هوشمندانه، فرآیند پرهزینه مقایسه سوال جدید با تک‌تک مثال‌ها توسط یک LLM بزرگ را با یک محاسبه سریع برداری جایگزین می‌کند و به همین دلیل به بهره‌وری محاسباتی فوق‌العاده‌ای دست می‌یابد.

آزمایش‌های انجام‌شده بر روی مجموعه داده‌های استاندارد استدلال (مانند GSM8K برای ریاضی و AQuA برای سوالات علمی) نتایج قابل توجهی را به همراه داشته است. یافته‌های اصلی مقاله به شرح زیر است:

• عملکرد برتر در استدلال: LaRS به طور مداوم و معناداری از روش‌های پیشرفته رقیب در انتخاب مثال (مانند روش‌های مبتنی بر شباهت معنایی یا روش‌های مبتنی بر LLM) عملکرد بهتری نشان می‌دهد. این بهبود عملکرد منجر به افزایش دقت نهایی مدل در پاسخ به سوالات پیچیده می‌شود.
• کارایی محاسباتی بی‌نظیر: این روش به شکل چشمگیری سریع‌تر از جایگزین‌هاست. طبق گزارش مقاله، LaRS قادر است بانک مثال‌ها را ۴ برابر سریع‌تر پردازش کند. مهم‌تر از آن، با حذف نیاز به فراخوانی یک LLM قدرتمند در حلقه انتخاب، تعداد فراخوانی‌های LLM را ۵۰ درصد کاهش می‌دهد که این امر به صرفه‌جویی عظیم در هزینه‌های محاسباتی و زمان منجر می‌شود.
• استحکام بالا (Robustness): یکی از نقاط قوت LaRS، عملکرد پایدار آن در شرایطی است که بانک مثال‌ها کیفیت ایده‌آلی ندارد یا شامل نمونه‌های نامرتبط است. این روش به دلیل تمرکز بر ساختار استدلال، توانایی بهتری در فیلتر کردن نویز و انتخاب بهترین گزینه‌های موجود دارد، حتی اگر گزینه‌ها محدود و ناقص باشند.
• خودکارسازی کامل فرآیند: LaRS نیاز به هرگونه برچسب‌زنی دستی مهارت‌ها یا طراحی پرامپت‌های پیچیده برای هدایت فرآیند انتخاب را از بین می‌برد. این ویژگی، پیاده‌سازی و مقیاس‌دهی آن را در سیستم‌های واقعی بسیار آسان‌تر می‌کند.

دستاوردها و کاربردهای عملی LaRS فراتر از یک بهبود آکادمیک است و می‌تواند تأثیر مستقیمی بر توسعه و استقرار سیستم‌های هوش مصنوعی پیشرفته داشته باشد:

• کاهش هزینه‌های عملیاتی: در کاربردهای تجاری که روزانه میلیون‌ها درخواست استدلال پردازش می‌شود، کاهش ۵۰ درصدی فراخوانی LLM به معنای صرفه‌جویی میلیون‌ها دلار در هزینه‌های API و زیرساخت است.
• مقیاس‌پذیری سیستم‌های هوشمند: با خودکارسازی و تسریع فرآیند انتخاب مثال، LaRS امکان ساخت سیستم‌های استدلال قوی را فراهم می‌کند که می‌توانند به سرعت با دامنه‌های جدید و مجموعه داده‌های عظیم تطبیق یابند.
• افزایش قابلیت اطمینان مدل‌ها: استحکام LaRS در برابر داده‌های ناقص، به این معناست که سیستم‌های مبتنی بر آن در دنیای واقعی که داده‌ها همیشه تمیز و کامل نیستند، قابل اعتمادتر عمل خواهند کرد.
• پیشرفت در علم مهندسی پرامپت: این مقاله یک گام مهم در جهت تبدیل «هنر» مهندسی پرامپت به یک «علم» مبتنی بر داده و یادگیری ماشین است. LaRS نشان می‌دهد که می‌توان جنبه‌های کلیدی تعامل با LLMها را به صورت خودکار و بهینه انجام داد.

مقاله «LaRS: مهارت‌های استدلال نهفته برای استدلال زنجیره تفکر» یک راهکار قدرتمند و کارآمد برای یکی از چالش‌های اساسی در به کارگیری مدل‌های زبان بزرگ ارائه می‌دهد: انتخاب هوشمندانه مثال‌ها برای تقویت استدلال زنجیره تفکر. این پژوهش با معرفی یک چارچوب مبتنی بر یادگیری بدون ناظر برای کشف و استفاده از «مهارت‌های استدلال نهفته»، موفق به پیشی گرفتن از روش‌های موجود هم از نظر دقت و هم از نظر کارایی محاسباتی شده است.

LaRS با حذف نیاز به دخالت انسان و کاهش وابستگی به LLMهای کمکی، مسیر را برای ساخت سیستم‌های هوش مصنوعی مقیاس‌پذیرتر، ارزان‌تر و قابل‌اطمینان‌تر هموار می‌سازد. این رویکرد نه تنها یک ابزار عملی برای بهبود عملکرد LLMهاست، بلکه یک دیدگاه نظری جدید در مورد چگونگی درک و مدل‌سازی فرآیندهای استدلال در ماشین‌ها ارائه می‌دهد و می‌تواند الهام‌بخش تحقیقات آینده در زمینه بهینه‌سازی خودکار تعاملات انسان و ماشین باشد.