ترجمه فارسی مقاله یادگیری گروه LLM برای ردیابی منبع کاغذ: یک رویکرد بدون GPU

چکیده

We participated in the KDD CUP 2024 paper source tracing competition and achieved the 3rd place. This competition tasked participants with identifying the reference sources (i.e., ref-sources, as referred to by the organizers of the competition) of given academic papers. Unlike most teams that addressed this challenge by fine-tuning pre-trained neural language models such as BERT or ChatGLM, our primary approach utilized closed-source large language models (LLMs). With recent advancements in LLM technology, closed-source LLMs have demonstrated the capability to tackle complex reasoning tasks in zero-shot or few-shot scenarios. Consequently, in the absence of GPUs, we employed closed-source LLMs to directly generate predicted reference sources from the provided papers. We further refined these predictions through ensemble learning. Notably, our method was the only one among the award-winning approaches that did not require the use of GPUs for model training. Code available at https://github.com/Cklwanfifa/KDDCUP2024-PST.

چکیده به فارسی (ترجمه ماشینی)

ما در رقابت ردیابی منبع کاغذ KDD Cup 2024 شرکت کردیم و به مقام سوم رسیدیم.این رقابت به شرکت کنندگان وظیفه شناسایی منابع مرجع (یعنی منابع Ref ، همانطور که توسط سازمان دهندگان رقابت به آنها اشاره شده است) از مقالات دانشگاهی داده شده است.بر خلاف اکثر تیم هایی که با تنظیم دقیق مدل های زبان عصبی از قبل آموزش دیده مانند Bert یا ChatGlm به این چالش پرداختند ، رویکرد اصلی ما از مدلهای زبان بزرگ منبع بسته (LLMS) استفاده می کند.با پیشرفت های اخیر در فناوری LLM ، LLM های منبع بسته توانایی مقابله با وظایف استدلال پیچیده را در سناریوهای صفر یا چند عکس نشان داده اند.در نتیجه ، در صورت عدم وجود GPU ، ما LLM های منبع بسته را برای تولید مستقیم منابع مرجع پیش بینی شده از مقالات ارائه شده به کار گرفتیم.ما بیشتر این پیش بینی ها را از طریق یادگیری گروه تصفیه کردیم.نکته قابل توجه ، روش ما تنها در بین رویکردهای برنده جایزه بود که نیازی به استفاده از GPU برای آموزش مدل نداشت.کد موجود در https://github.com/cklwanfifa/kddcup2024-pst.