ترجمه فارسی مقاله به سوی ارزیابی مدل های زبان بزرگ با در نظر گرفتن واریانس امتیاز در الگوهای دستورالعمل

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Toward the Evaluation of Large Language Models Considering Score Variance across Instruction Templates
عنوان مقاله به فارسی به سوی ارزیابی مدل های زبان بزرگ با در نظر گرفتن واریانس امتیاز در الگوهای دستورالعمل
نویسندگان Yusuke Sakai, Adam Nohejl, Jiangnan Hang, Hidetaka Kamigaito, Taro Watanabe
فرمت مقاله انگلیسی PDF
تعداد صفحات 19
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Computation and Language,Artificial Intelligence,Machine Learning,محاسبه و زبان , هوش مصنوعی , یادگیری ماشین ,
توضیحات Submitted 22 August, 2024; originally announced August 2024. , Comments: 19 pages, 7 figures
توضیحات به فارسی ارسال شده در 22 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد. ، نظرات: 19 صفحه ، 7 شکل
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

The natural language understanding (NLU) performance of large language models (LLMs) has been evaluated across various tasks and datasets. The existing evaluation methods, however, do not take into account the variance in scores due to differences in prompts, which leads to unfair evaluation and comparison of NLU performance. Moreover, evaluation designed for specific prompts is inappropriate for instruction tuning, which aims to perform well with any prompt. It is therefore necessary to find a way to measure NLU performance in a fair manner, considering score variance between different instruction templates. In this study, we provide English and Japanese cross-lingual datasets for evaluating the NLU performance of LLMs, which include multiple instruction templates for fair evaluation of each task, along with regular expressions to constrain the output format. Furthermore, we propose the Sharpe score as an evaluation metric that takes into account the variance in scores between templates. Comprehensive analysis of English and Japanese LLMs reveals that the high variance among templates has a significant impact on the fair evaluation of LLMs.

چکیده به فارسی (ترجمه ماشینی)

درک زبان طبیعی (NLU) عملکرد مدل های بزرگ زبان (LLMS) در وظایف و مجموعه داده های مختلف ارزیابی شده است.با این حال ، روشهای ارزیابی موجود ، واریانس نمرات را به دلیل تفاوت در اعلان ها در نظر نمی گیرند ، که منجر به ارزیابی ناعادلانه و مقایسه عملکرد NLU می شود.علاوه بر این ، ارزیابی طراحی شده برای دستورالعمل های خاص برای تنظیم دستورالعمل نامناسب است ، که هدف آن انجام عملکرد خوب با هر فستر است.بنابراین با در نظر گرفتن واریانس نمره بین الگوهای مختلف دستورالعمل ، لازم است راهی برای اندازه گیری عملکرد NLU به روشی عادلانه پیدا کنید.در این مطالعه ، ما مجموعه داده های متقاطع انگلیسی و ژاپنی را برای ارزیابی عملکرد NLU LLM ها ارائه می دهیم ، که شامل چندین الگوی دستورالعمل برای ارزیابی منصفانه هر کار ، به همراه عبارات منظم برای محدود کردن قالب خروجی است.علاوه بر این ، ما نمره شارپ را به عنوان یک متریک ارزیابی پیشنهاد می کنیم که واریانس نمرات بین قالب ها را در نظر می گیرد.تجزیه و تحلیل جامع LLMS انگلیسی و ژاپنی نشان می دهد که واریانس بالا در بین الگوها تأثیر قابل توجهی در ارزیابی منصفانه LLMS دارد.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.