ترجمه فارسی مقاله رگرسیون نمادین با یک کتابخانه مفهوم آموخته شده

چکیده

We present a novel method for symbolic regression (SR), the task of searching for compact programmatic hypotheses that best explain a dataset. The problem is commonly solved using genetic algorithms; we show that we can enhance such methods by inducing a library of abstract textual concepts. Our algorithm, called LaSR, uses zero-shot queries to a large language model (LLM) to discover and evolve concepts occurring in known high-performing hypotheses. We discover new hypotheses using a mix of standard evolutionary steps and LLM-guided steps (obtained through zero-shot LLM queries) conditioned on discovered concepts. Once discovered, hypotheses are used in a new round of concept abstraction and evolution. We validate LaSR on the Feynman equations, a popular SR benchmark, as well as a set of synthetic tasks. On these benchmarks, LaSR substantially outperforms a variety of state-of-the-art SR approaches based on deep learning and evolutionary algorithms. Moreover, we show that LaSR can be used to discover a novel and powerful scaling law for LLMs.

چکیده به فارسی (ترجمه ماشینی)

ما یک روش جدید برای رگرسیون نمادین (SR) ارائه می دهیم ، وظیفه جستجو برای فرضیه های برنامه ای جمع و جور که به بهترین وجه یک مجموعه داده را توضیح می دهد.این مشکل معمولاً با استفاده از الگوریتم های ژنتیکی حل می شود.ما نشان می دهیم که می توانیم با القاء کتابخانه ای از مفاهیم متنی انتزاعی ، چنین روشهایی را تقویت کنیم.الگوریتم ما ، به نام LASR ، از نمایش داده های صفر در یک مدل زبان بزرگ (LLM) برای کشف و تکامل مفاهیم موجود در فرضیه های با عملکرد بالا شناخته شده استفاده می کند.ما فرضیه های جدید را با استفاده از ترکیبی از مراحل تکاملی استاندارد و مراحل هدایت LLM (به دست آمده از طریق نمایش داده های LLM صفر) که بر روی مفاهیم کشف شده به دست می آید ، کشف می کنیم.پس از کشف ، فرضیه ها در دور جدیدی از انتزاع مفهوم و تکامل استفاده می شوند.ما LASR را در مورد معادلات فاینمن ، معیار محبوب SR و همچنین مجموعه ای از کارهای مصنوعی تأیید می کنیم.در این معیارها ، LASR به طور قابل توجهی از انواع رویکردهای پیشرفته SR مبتنی بر یادگیری عمیق و الگوریتم های تکاملی بهتر عمل می کند.علاوه بر این ، ما نشان می دهیم که از LASR می توان برای کشف یک قانون مقیاس بندی جدید و قدرتمند برای LLMS استفاده کرد.