ترجمه فارسی مقاله مدل‌های زبان آموزشی در نمودار دانش: بینش‌هایی درباره توهمات و قابلیت تشخیص آنها

چکیده

While many capabilities of language models (LMs) improve with increased training budget, the influence of scale on hallucinations is not yet fully understood. Hallucinations come in many forms, and there is no universally accepted definition. We thus focus on studying only those hallucinations where a correct answer appears verbatim in the training set. To fully control the training data content, we construct a knowledge graph (KG)-based dataset, and use it to train a set of increasingly large LMs. We find that for a fixed dataset, larger and longer-trained LMs hallucinate less. However, hallucinating on $\leq5$% of the training data requires an order of magnitude larger model, and thus an order of magnitude more compute, than Hoffmann et al. (2022) reported was optimal. Given this costliness, we study how hallucination detectors depend on scale. While we see detector size improves performance on fixed LM’s outputs, we find an inverse relationship between the scale of the LM and the detectability of its hallucinations.

چکیده به فارسی (ترجمه ماشینی)

در حالی که بسیاری از قابلیت های مدل های زبان (LMS) با افزایش بودجه آموزش بهبود می یابند ، تأثیر مقیاس در توهم هنوز کاملاً درک نشده است.توهم به اشکال مختلفی ارائه می شود ، و هیچ تعریف جهانی پذیرفته نشده است.بنابراین ما فقط روی مطالعه آن دسته از توهمات تمرکز می کنیم که در آن یک پاسخ صحیح در مجموعه آموزش به صورت کلامی ظاهر می شود.برای کنترل کامل محتوای داده های آموزشی ، ما یک مجموعه داده مبتنی بر نمودار دانش (KG) را می سازیم و از آن برای آموزش مجموعه ای از LMS به طور فزاینده ای استفاده می کنیم.ما می دانیم که برای یک مجموعه داده ثابت ، LMS بزرگتر و طولانی تر توهم کمتر است.با این حال ، توهم در $ \ leq5 $ از داده های آموزش نیاز به یک مدل بزرگتر از مدل بزرگتر و در نتیجه یک ترتیب از بزرگی محاسبات بیشتر از هافمن و همکاران دارد.(2022) گزارش شده بهینه بود.با توجه به این هزینه ، ما مطالعه می کنیم که چگونه ردیاب های توهم به مقیاس بستگی دارند.در حالی که می بینیم که اندازه ردیاب عملکرد را در خروجی های LM ثابت بهبود می بخشد ، ما بین مقیاس LM و قابلیت تشخیص توهمات آن رابطه معکوس پیدا می کنیم.