ترجمه فارسی مقاله Alt-MoE: تراز چندوجهی از طریق بهینه سازی متناوب MOE چند جهته با مدل های تک وجهی

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

پرداخت اقساطی
در صورت خرید اقساطی هر قسط: 37,500 تومان
۴ قسط ماهانه. بدون سود، چک و ضامن.
پرداخت اقساطی با دیجی‌پی پرداخت اقساطی با ترب‌پی
عنوان مقاله به انگلیسی Alt-MoE: Multimodal Alignment via Alternating Optimization of Multi-directional MoE with Unimodal Models
عنوان مقاله به فارسی Alt-MoE: تراز چندوجهی از طریق بهینه سازی متناوب MOE چند جهته با مدل های تک وجهی
نویسندگان Hongyang Lei, Xiaolong Cheng, Dan Wang, Qi Qin, Huazhen Huang, Yetao Wu, Qingqing Gu, Zhonglin Jiang, Yong Chen, Luo Ji
فرمت مقاله انگلیسی PDF
تعداد صفحات 13
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Artificial Intelligence,یادگیری ماشین , هوش مصنوعی ,
توضیحات Submitted 9 September, 2024; originally announced September 2024. , Comments: work in progress
توضیحات به فارسی ارسال شده در 9 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد. ، نظرات: کار در حال انجام
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Recent Large Multi-Modal Models (LMMs) have made significant advancements in multi-modal alignment by employing lightweight connection modules to facilitate the representation and fusion of knowledge from existing pre-trained uni-modal models. However, these methods still rely on modality-specific and direction-specific connectors, leading to compartmentalized knowledge representations and reduced computational efficiency, which limits the model's ability to form unified multi-modal representations. To address these issues, we introduce a novel training framework, Alt-MoE, which employs the Mixture of Experts (MoE) as a unified multi-directional connector across modalities, and employs a multi-step sequential alternating unidirectional alignment strategy, which converges to bidirectional alignment over iterations. The extensive empirical studies revealed the following key points: 1) Alt-MoE achieves competitive results by integrating diverse knowledge representations from uni-modal models. This approach seamlessly fuses the specialized expertise of existing high-performance uni-modal models, effectively synthesizing their domain-specific knowledge into a cohesive multi-modal representation. 2) Alt-MoE efficiently scales to new tasks and modalities without altering its model architecture or training strategy. Furthermore, Alt-MoE operates in latent space, supporting vector pre-storage and real-time retrieval via lightweight multi-directional MoE, thereby facilitating massive data processing. Our methodology has been validated on several well-performing uni-modal models (LLAMA3, Qwen2, and DINOv2), achieving competitive results on a wide range of downstream tasks and datasets.

چکیده به فارسی (ترجمه ماشینی)

مدلهای بزرگ چند معدنی اخیر (LMMS) با استفاده از ماژول های اتصال سبک وزن برای تسهیل بازنمایی و ادغام دانش از مدلهای یکپارچه از قبل آموزش یافته موجود ، پیشرفت های قابل توجهی در تراز چند حالته انجام داده اند.با این حال ، این روش ها هنوز هم به اتصالات خاص و خاص جهت متکی هستند و منجر به بازنمایی دانش محفظه و کاهش کارایی محاسباتی می شوند ، که این امر توانایی مدل در شکل گیری بازنمایی های چند منظوره متحد را محدود می کند.برای پرداختن به این موضوعات ، ما یک چارچوب آموزشی جدید ، Alt-Moe را معرفی می کنیم ، که از مخلوط متخصصان (MOE) به عنوان یک کانکتور چند جهته یکپارچه در طول روشها استفاده می کند و از یک استراتژی تراز یک طرفه متناوب چند مرحله ای استفاده می کند ، که به آن تبدیل می شود.تراز دو طرفه در مورد تکرارها.مطالعات تجربی گسترده نکات کلیدی زیر را نشان داد: 1) Alt-Moe با ادغام بازنمایی دانش متنوع از مدلهای یکپارچه ، به نتایج رقابتی می رسد.این رویکرد یکپارچه تخصص تخصصی مدلهای یکپارچه با کارایی بالا را فیوز می کند ، و به طور موثری دانش خاص دامنه خود را در یک نمایش چند منظوره منسجم سنتز می کند.2) Alt-Moe به طور مؤثر به وظایف و روشهای جدید بدون تغییر معماری مدل یا استراتژی آموزشی خود مقیاس می دهد.علاوه بر این ، Alt-Moe در فضای نهفته فعالیت می کند ، از وکتور قبل از ذخیره و بازیابی در زمان واقعی از طریق MOE چند جهته سبک وزن پشتیبانی می کند و از این طریق پردازش داده های گسترده را تسهیل می کند.روش ما در چندین مدل یکپارچه خوب و خوب (LLAMA3 ، QWEN2 و DINOV2) تأیید شده است و به نتایج رقابتی در طیف گسترده ای از کارهای پایین دست و مجموعه داده ها رسیده است.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.