ترجمه فارسی مقاله DualChecker تعاملی برای کاهش توهم در تقطیر مدل های زبان بزرگ

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Interactive DualChecker for Mitigating Hallucinations in Distilling Large Language Models
عنوان مقاله به فارسی DualChecker تعاملی برای کاهش توهم در تقطیر مدل های زبان بزرگ
نویسندگان Meiyun Wang, Masahiro Suzuki, Hiroki Sakaji, Kiyoshi Izumi
فرمت مقاله انگلیسی PDF
تعداد صفحات 10
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Computation and Language,Artificial Intelligence,Computational Engineering, Finance, and Science,Computers and Society,محاسبات و زبان , هوش مصنوعی , مهندسی محاسباتی , امور مالی و علوم , رایانه ها و جامعه
توضیحات Submitted 22 August, 2024; originally announced August 2024.
توضیحات به فارسی ارسال شده در 22 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Large Language Models (LLMs) have demonstrated exceptional capabilities across various machine learning (ML) tasks. Given the high costs of creating annotated datasets for supervised learning, LLMs offer a valuable alternative by enabling effective few-shot in-context learning. However, these models can produce hallucinations, particularly in domains with incomplete knowledge. Additionally, current methods for knowledge distillation using LLMs often struggle to enhance the effectiveness of both teacher and student models. To address these challenges, we introduce DualChecker, an innovative framework designed to mitigate hallucinations and improve the performance of both teacher and student models during knowledge distillation. DualChecker employs ContextAligner to ensure that the context provided by teacher models aligns with human labeling standards. It also features a dynamic checker system that enhances model interaction: one component re-prompts teacher models with more detailed content when they show low confidence, and another identifies borderline cases from student models to refine the teaching templates. This interactive process promotes continuous improvement and effective knowledge transfer between the models. We evaluate DualChecker using a green innovation textual dataset that includes binary, multiclass, and token classification tasks. The experimental results show that DualChecker significantly outperforms existing state-of-the-art methods, achieving up to a 17% improvement in F1 score for teacher models and 10% for student models. Notably, student models fine-tuned with LLM predictions perform comparably to those fine-tuned with actual data, even in a challenging domain. We make all datasets, models, and code from this research publicly available.

چکیده به فارسی (ترجمه ماشینی)

مدل های بزرگ زبان (LLM) قابلیت های استثنایی را در وظایف مختلف یادگیری ماشین (ML) نشان داده اند.با توجه به هزینه های بالای ایجاد مجموعه داده های حاشیه نویسی برای یادگیری نظارت شده ، LLM ها با فعال کردن یادگیری مؤثر در متن ، جایگزین ارزشمندی را ارائه می دهند.با این حال ، این مدل ها می توانند توهم ، به ویژه در حوزه هایی با دانش ناقص ایجاد کنند.علاوه بر این ، روشهای فعلی برای تقطیر دانش با استفاده از LLM ها اغلب برای تقویت اثربخشی مدل های معلم و دانش آموز تلاش می کنند.برای پرداختن به این چالش ها ، ما DualChecker را معرفی می کنیم ، یک چارچوب نوآورانه که برای کاهش توهم و بهبود عملکرد مدل های معلم و دانش آموز در هنگام تقطیر دانش طراحی شده است.DualChecker از Contextaligner استفاده می کند تا اطمینان حاصل کند که زمینه ارائه شده توسط مدلهای معلمان با استانداردهای برچسب زدن انسانی مطابقت دارد.این سیستم همچنین دارای یک سیستم Checker پویا است که تعامل مدل را تقویت می کند: یکی از مؤلفه ها در هنگام نشان دادن اعتماد به نفس ، مدلهای معلم را با محتوای دقیق تر مجدداً ارائه می دهد ، و دیگری موارد مرزی را از مدل های دانشجویی برای تصحیح الگوهای تدریس مشخص می کند.این فرایند تعاملی باعث بهبود مداوم و انتقال دانش مؤثر بین مدل ها می شود.ما DualChecker را با استفاده از یک مجموعه داده متنی نوآوری سبز که شامل وظایف طبقه بندی باینری ، چند طبقه و توکن است ، ارزیابی می کنیم.نتایج تجربی نشان می دهد که DualChecker به طور قابل توجهی از روشهای پیشرفته موجود بهتر عمل می کند ، و به پیشرفت 17 ٪ در نمره F1 برای مدلهای معلم و 10 ٪ برای مدل های دانش آموز می رسد.نکته قابل توجه ، مدلهای دانشجویی با پیش بینی های LLM تنظیم شده با داده های واقعی با داده های واقعی ، حتی در یک دامنه چالش برانگیز ، عملکرد خوبی دارند.ما تمام مجموعه داده ها ، مدل ها و کد ها را از این تحقیق در دسترس عموم قرار می دهیم.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.