ترجمه فارسی مقاله فراتر از LoRA: کاوش در تکنیک های تنظیم دقیق کارآمد برای مدل های بنیادی سری زمانی

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی Beyond LoRA: Exploring Efficient Fine-Tuning Techniques for Time Series Foundational Models
عنوان مقاله به فارسی فراتر از LoRA: کاوش در تکنیک های تنظیم دقیق کارآمد برای مدل های بنیادی سری زمانی
نویسندگان Divij Gupta, Anubhav Bhatti, Surajsinh Parmar
فرمت مقاله انگلیسی PDF
تعداد صفحات 7
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,یادگیری ماشین ,
توضیحات Submitted 17 September, 2024; originally announced September 2024. , Comments: 7 pages. Under review
توضیحات به فارسی ارسال شده 17 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد ، نظرات: 7 صفحه.تحت بررسی
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Time Series Foundation Models (TSFMs) have recently garnered attention for their ability to model complex, large-scale time series data across domains such as retail, finance, and transportation. However, their application to sensitive, domain-specific fields like healthcare remains challenging, primarily due to the difficulty of fine-tuning these models for specialized, out-of-domain tasks with scarce publicly available datasets. In this work, we explore the use of Parameter-Efficient Fine-Tuning (PEFT) techniques to address these limitations, focusing on healthcare applications, particularly ICU vitals forecasting for sepsis patients. We introduce and evaluate two selective (BitFit and LayerNorm Tuning) and two additive (VeRA and FourierFT) PEFT techniques on multiple configurations of the Chronos TSFM for forecasting vital signs of sepsis patients. Our comparative analysis demonstrates that some of these PEFT methods outperform LoRA in terms of parameter efficiency and domain adaptation, establishing state-of-the-art (SOTA) results in ICU vital forecasting tasks. Interestingly, FourierFT applied to the Chronos (Tiny) variant surpasses the SOTA model while fine-tuning only 2,400 parameters compared to the 700K parameters of the benchmark.

چکیده به فارسی (ترجمه ماشینی)

مدل های بنیاد سری زمانی (TSFMS) اخیراً به دلیل توانایی خود در مدل سازی داده های پیچیده و در مقیاس بزرگ در حوزه هایی مانند خرده فروشی ، امور مالی و حمل و نقل توجه کرده اند.با این حال ، کاربرد آنها در زمینه های حساس و خاص دامنه مانند مراقبت های بهداشتی همچنان چالش برانگیز است ، در درجه اول به دلیل دشواری تنظیم دقیق این مدل ها برای کارهای تخصصی و خارج از دامنه با مجموعه داده های کمیاب در دسترس است.در این کار ، ما استفاده از تکنیک های تنظیم دقیق پارامتر (PEFT) را برای پرداختن به این محدودیت ها ، با تمرکز بر کاربردهای مراقبت های بهداشتی ، به ویژه پیش بینی ICU Vitals برای بیماران سپسیس ، بررسی می کنیم.ما دو روش انتخابی انتخابی (BitFit و Layernorm) و دو روش افزودنی (Vera و Fourierft) را در تنظیمات متعدد Chronos TSFM برای پیش بینی علائم حیاتی بیماران مبتلا به سپسیس معرفی و ارزیابی می کنیم.تجزیه و تحلیل مقایسه ای ما نشان می دهد که برخی از این روشهای PEFT از LORA از نظر راندمان پارامتر و سازگاری دامنه بهتر عمل می کنند ، ایجاد پیشرفته ترین (SOTA) منجر به انجام کارهای پیش بینی حیاتی ICU می شود.جالب اینجاست که Fourierft اعمال شده بر روی نوع Chronos (Tiny) از مدل SOTA پیشی می گیرد و در مقایسه با پارامترهای 700K معیار تنها 2400 پارامتر تنظیم می کند.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.