ترجمه فارسی مقاله یک مدل زبان بزرگ فدرال برای پیش‌بینی سری‌های زمانی بلندمدت

چکیده

Long-term time series forecasting in centralized environments poses unique challenges regarding data privacy, communication overhead, and scalability. To address these challenges, we propose FedTime, a federated large language model (LLM) tailored for long-range time series prediction. Specifically, we introduce a federated pre-trained LLM with fine-tuning and alignment strategies. Prior to the learning process, we employ K-means clustering to partition edge devices or clients into distinct clusters, thereby facilitating more focused model training. We also incorporate channel independence and patching to better preserve local semantic information, ensuring that important contextual details are retained while minimizing the risk of information loss. We demonstrate the effectiveness of our FedTime model through extensive experiments on various real-world forecasting benchmarks, showcasing substantial improvements over recent approaches. In addition, we demonstrate the efficiency of FedTime in streamlining resource usage, resulting in reduced communication overhead.

چکیده به فارسی (ترجمه ماشینی)

پیش بینی سری زمانی طولانی مدت در محیط های متمرکز چالش های منحصر به فردی را در مورد حریم خصوصی داده ها ، سربار ارتباطات و مقیاس پذیری ایجاد می کند.برای پرداختن به این چالش ها ، ما FedTime را پیشنهاد می کنیم ، یک مدل زبان بزرگ فدرال (LLM) متناسب با پیش بینی سریال های دوربرد.به طور خاص ، ما یک LLM از قبل آموزش دیده فدرال را با استراتژی های تنظیم دقیق و تراز معرفی می کنیم.قبل از فرآیند یادگیری ، ما از خوشه های K-Means به دستگاه های لبه پارتیشن یا مشتری در خوشه های مجزا استفاده می کنیم و از این طریق آموزش مدل متمرکز تر را تسهیل می کنیم.ما همچنین استقلال کانال و وصله ای را برای حفظ بهتر اطلاعات معنایی محلی در بر می گیریم ، و اطمینان حاصل می کنیم که جزئیات مهم متنی ضمن به حداقل رساندن خطر از دست دادن اطلاعات ، حفظ می شود.ما اثربخشی مدل زمان فدرال خود را از طریق آزمایش های گسترده در معیارهای مختلف پیش بینی در دنیای واقعی نشان می دهیم و پیشرفت های قابل توجهی را نسبت به رویکردهای اخیر نشان می دهد.علاوه بر این ، ما کارآیی زمان فدرال را در ساده سازی استفاده از منابع نشان می دهیم ، و در نتیجه باعث کاهش سربار ارتباطات می شود.