ترجمه فارسی مقاله LAMPO: مدل‌های زبان بزرگ به عنوان ماشین‌های ترجیحی برای طبقه‌بندی ترتیبی چندشاره‌ای

چکیده

We introduce LAMPO, a novel paradigm that leverages Large Language Models (LLMs) for solving few-shot multi-class ordinal classification tasks. Unlike conventional methods, which concatenate all demonstration examples with the test instance and prompt LLMs to produce the pointwise prediction, our framework uses the LLM as a preference machine that makes a relative comparative decision between the test instance and each demonstration. A self-supervised method is then introduced to aggregate these binary comparisons into the final ordinal decision. LAMPO addresses several limitations inherent in previous methods, including context length constraints, ordering biases, and challenges associated with absolute point-wise estimation. Extensive experiments on seven public datasets demonstrate LAMPO’s remarkably competitive performance across a diverse spectrum of applications (e.g., movie review analysis and hate speech detection). Notably, in certain applications, the improvement can be substantial, exceeding 20% in an absolute term. Moreover, we believe LAMPO represents an interesting addition to the non-parametric application layered on top of LLMs, as it supports black-box LLMs without necessitating the outputting of LLM’s internal states (e.g., embeddings), as seen in previous approaches.

چکیده به فارسی (ترجمه ماشینی)

ما Lampo را معرفی می کنیم ، یک الگوی جدید که از مدل های بزرگ زبان (LLMS) برای حل کارهای طبقه بندی چند طبقه چند کلاس استفاده می کند.بر خلاف روشهای متعارف ، که تمام نمونه های تظاهرات را با نمونه آزمون و LLM های سریع برای تولید پیش بینی نقطه ای به هم می پیوندند ، چارچوب ما از LLM به عنوان یک دستگاه اولویت استفاده می کند که تصمیم مقایسه ای نسبی بین نمونه آزمون و هر تظاهرات می کند.سپس یک روش خود پیشرفته برای جمع آوری این مقایسه های باینری در تصمیم نظم نهایی معرفی می شود.LAMPO به چندین محدودیت ذاتی در روشهای قبلی ، از جمله محدودیت های طول زمینه ، سفارش تعصب و چالش های مرتبط با برآورد مطلق نقطه ، پرداخته است.آزمایش های گسترده در مورد هفت مجموعه داده عمومی ، عملکرد قابل ملاحظه ای رقابتی Lampo را در طیف متنوعی از برنامه ها نشان می دهد (به عنوان مثال ، تجزیه و تحلیل بررسی فیلم و تشخیص گفتار نفرت).نکته قابل توجه ، در برخی از برنامه های خاص ، پیشرفت می تواند قابل توجه باشد ، بیش از 20 ٪ در یک اصطلاح مطلق.علاوه بر این ، ما معتقدیم که LAMPO علاوه بر جالب توجه در برنامه های غیر پارامتری که در بالای LLM ها قرار دارد ، نشان دهنده LLM های جعبه سیاه و بدون نیاز به تولید حالت های داخلی LLM (به عنوان مثال ، تعبیه) است ، همانطور که در رویکردهای قبلی مشاهده می شود.