ترجمه فارسی مقاله MMLU-Pro+: ارزیابی استدلال با مرتبه بالاتر و یادگیری میانبر در LLM

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی MMLU-Pro+: Evaluating Higher-Order Reasoning and Shortcut Learning in LLMs
عنوان مقاله به فارسی MMLU-Pro+: ارزیابی استدلال با مرتبه بالاتر و یادگیری میانبر در LLM
نویسندگان Saeid Asgari Taghanaki, Aliasgahr Khani, Amir Khasahmadi
فرمت مقاله انگلیسی PDF
تعداد صفحات 9
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Computation and Language,Machine Learning,محاسبه و زبان , یادگیری ماشین ,
توضیحات Submitted 17 September, 2024; v1 submitted 3 September, 2024; originally announced September 2024.
توضیحات به فارسی ارسال شده 17 سپتامبر 2024 ؛V1 ارسال شده در 3 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Existing benchmarks for large language models (LLMs) increasingly struggle to differentiate between top-performing models, underscoring the need for more challenging evaluation frameworks. We introduce MMLU-Pro+, an enhanced benchmark building upon MMLU-Pro to assess shortcut learning and higher-order reasoning in LLMs. By incorporating questions with multiple correct answers across diverse domains, MMLU-Pro+ tests LLMs' ability to engage in complex reasoning and resist simplistic problem-solving strategies. Our results show that MMLU-Pro+ maintains MMLU-Pro's difficulty while providing a more rigorous test of model discrimination, particularly in multi-correct answer scenarios. We introduce novel metrics like shortcut selection ratio and correct pair identification ratio, offering deeper insights into model behavior and anchoring bias. Evaluations of six state-of-the-art LLMs reveal significant performance gaps, highlighting variations in reasoning abilities and bias susceptibility. We release the dataset and evaluation codes at \url{https://github.com/asgsaeid/mmlu-pro-plus}.

چکیده به فارسی (ترجمه ماشینی)

معیارهای موجود برای مدلهای بزرگ زبان (LLM) به طور فزاینده ای برای تمایز بین مدلهای برتر با استفاده از مدل های برتر تلاش می کنند ، و بر نیاز به چارچوب های ارزیابی چالش برانگیزتر تأکید می کنند.ما MMLU-PRO+، یک ساختمان معیار پیشرفته بر روی MMLU-PRO را برای ارزیابی یادگیری میانبر و استدلال مرتبه بالاتر در LLMS معرفی می کنیم.با درج سؤالات با پاسخ های چندگانه در حوزه های متنوع ، MMLU-PRO+ Tests توانایی LLMS برای شرکت در استدلال پیچیده و مقاومت در برابر استراتژی های حل مسئله ساده گرایانه.نتایج ما نشان می دهد که MMLU-PRO+ مشکل MMLU-PRO را در حالی که آزمایش دقیق تری از تبعیض مدل ، به ویژه در سناریوهای پاسخ چند صحیح ، حفظ می کند ، حفظ می کند.ما معیارهای جدید مانند نسبت انتخاب میانبر و نسبت شناسایی درست جفت را معرفی می کنیم و بینش های عمیق تری در مورد رفتار مدل و تعصب لنگر انداختن ارائه می دهیم.ارزیابی شش LLMS پیشرفته ، شکاف عملکرد قابل توجهی را نشان می دهد ، که تغییرات در توانایی های استدلال و حساسیت به تعصب را برجسته می کند.ما کدهای مجموعه داده و ارزیابی را در \ url {https://github.com/asgsaeid/mmlu-pro-plus sheor منتشر می کنیم.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.