ترجمه فارسی مقاله فوق العاده: ارزیابی عوامل در تنظیم و اجرای وظایف از مخازن تحقیق

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی SUPER: Evaluating Agents on Setting Up and Executing Tasks from Research Repositories
عنوان مقاله به فارسی فوق العاده: ارزیابی عوامل در تنظیم و اجرای وظایف از مخازن تحقیق
نویسندگان Ben Bogin, Kejuan Yang, Shashank Gupta, Kyle Richardson, Erin Bransom, Peter Clark, Ashish Sabharwal, Tushar Khot
فرمت مقاله انگلیسی PDF
تعداد صفحات 23
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Artificial Intelligence,Computation and Language,Software Engineering,هوش مصنوعی , محاسبات و زبان , مهندسی نرم افزار ,
توضیحات Submitted 11 September, 2024; originally announced September 2024.
توضیحات به فارسی ارسال شده در 11 سپتامبر 2024 ؛در ابتدا سپتامبر 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Given that Large Language Models (LLMs) have made significant progress in writing code, can they now be used to autonomously reproduce results from research repositories? Such a capability would be a boon to the research community, helping researchers validate, understand, and extend prior work. To advance towards this goal, we introduce SUPER, the first benchmark designed to evaluate the capability of LLMs in setting up and executing tasks from research repositories. SUPERaims to capture the realistic challenges faced by researchers working with Machine Learning (ML) and Natural Language Processing (NLP) research repositories. Our benchmark comprises three distinct problem sets: 45 end-to-end problems with annotated expert solutions, 152 sub problems derived from the expert set that focus on specific challenges (e.g., configuring a trainer), and 602 automatically generated problems for larger-scale development. We introduce various evaluation measures to assess both task success and progress, utilizing gold solutions when available or approximations otherwise. We show that state-of-the-art approaches struggle to solve these problems with the best model (GPT-4o) solving only 16.3% of the end-to-end set, and 46.1% of the scenarios. This illustrates the challenge of this task, and suggests that SUPER can serve as a valuable resource for the community to make and measure progress.

چکیده به فارسی (ترجمه ماشینی)

با توجه به اینکه مدلهای بزرگ زبان (LLMS) پیشرفت قابل توجهی در کد نوشتن داشته اند ، آیا اکنون می توان از آنها برای تولید مثل به طور مستقل نتایج از مخازن تحقیق استفاده کرد؟چنین توانایی ای برای جامعه تحقیقاتی ایجاد می شود و به محققان کمک می کند تا کار قبلی را تأیید کنند ، درک و گسترش دهند.برای پیشبرد این هدف ، ما Super را معرفی می کنیم ، اولین معیار طراحی شده برای ارزیابی توانایی LLMS در تنظیم و اجرای وظایف از مخازن تحقیق.Superaims برای ضبط چالش های واقع بینانه که محققانی که با مخازن تحقیقاتی Machine Learning (ML) و پردازش زبان طبیعی (NLP) کار می کنند.معیار ما شامل سه مجموعه مشکل متمایز است: 45 مشکلات پایان به پایان با راه حل های متخصص حاشیه نویسی ، 152 مشکل فرعی حاصل از مجموعه متخصص که بر روی چالش های خاص تمرکز می کنند (به عنوان مثال ، پیکربندی یک مربی) و 602 به طور خودکار برای مقیاس بزرگتر مشکل ایجاد می کنندتوسعهما اقدامات مختلف ارزیابی را برای ارزیابی موفقیت و پیشرفت کار و پیشرفت ، با استفاده از راه حل های طلا در صورت وجود یا تقریب در غیر این صورت معرفی می کنیم.ما نشان می دهیم که رویکردهای پیشرفته برای حل این مشکلات با بهترین مدل (GPT-4O) تنها 16.3 ٪ از مجموعه پایان به پایان و 46.1 ٪ از سناریوها را حل می کنند.این چالش این کار را نشان می دهد و نشان می دهد که SUPER می تواند به عنوان یک منبع ارزشمند برای جامعه برای ایجاد و اندازه گیری پیشرفت باشد.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.