ترجمه فارسی مقاله SLIM-RAFT: یک رویکرد جدید تنظیم دقیق برای بهبود عملکرد بین زبانی برای نامگذاری مشترک مرکوسور

چکیده

Natural language processing (NLP) has seen significant advancements with the advent of large language models (LLMs). However, substantial improvements are still needed for languages other than English, especially for specific domains like the applications of Mercosur Common Nomenclature (NCM), a Brazilian Harmonized System (HS). To address this gap, this study uses TeenyTineLLaMA, a foundational Portuguese LLM, as an LLM source to implement the NCM application processing. Additionally, a simplified Retrieval-Augmented Fine-Tuning (RAFT) technique, termed SLIM-RAFT, is proposed for task-specific fine-tuning of LLMs. This approach retains the chain-of-thought (CoT) methodology for prompt development in a more concise and streamlined manner, utilizing brief and focused documents for training. The proposed model demonstrates an efficient and cost-effective alternative for fine-tuning smaller LLMs, significantly outperforming TeenyTineLLaMA and ChatGPT-4 in the same task. Although the research focuses on NCM applications, the methodology can be easily adapted for HS applications worldwide.

چکیده به فارسی (ترجمه ماشینی)

پردازش زبان طبیعی (NLP) با ظهور مدلهای بزرگ زبان (LLMS) پیشرفت های چشمگیری داشته است.با این حال ، پیشرفت های قابل توجهی برای زبانهای غیر از انگلیسی مورد نیاز است ، به ویژه برای دامنه های خاص مانند کاربردهای نامگذاری مشترک Mercosur (NCM) ، یک سیستم هماهنگ برزیلی (HS).برای پرداختن به این شکاف ، در این مطالعه از Teenytinellama ، یک بنیادی پرتغالی LLM ، به عنوان یک منبع LLM برای اجرای پردازش برنامه NCM استفاده شده است.علاوه بر این ، یک تکنیک تنظیم دقیق تنظیم شده (RAFT) بازیابی ساده ، با نام Raft Slim ، برای تنظیم دقیق کار LLMS ارائه شده است.این رویکرد روش زنجیره ای از فکر (COT) را برای توسعه سریع به روشی مختصر تر و ساده تر ، با استفاده از اسناد مختصر و متمرکز برای آموزش ، حفظ می کند.مدل پیشنهادی یک جایگزین کارآمد و مقرون به صرفه برای تنظیم دقیق LLM های کوچکتر ، به طور قابل توجهی بهتر از Teenytinellama و ChatGPT-4 در همان کار نشان می دهد.اگرچه این تحقیق بر روی برنامه های NCM متمرکز است ، اما این روش به راحتی می تواند برای برنامه های HS در سراسر جهان سازگار باشد.