کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
چکیده
Temporal graph neural networks (TGNNs) outperform regular GNNs by incorporating time information into graph-based operations. However, TGNNs adopt specialized models (e.g., TGN, TGAT, and APAN ) and require tailored training frameworks (e.g., TGL and ETC). In this paper, we propose TF-TGN, which uses Transformer decoder as the backbone model for TGNN to enjoy Transformer's codebase for efficient training. In particular, Transformer achieves tremendous success for language modeling, and thus the community developed high-performance kernels (e.g., flash-attention and memory-efficient attention) and efficient distributed training schemes (e.g., PyTorch FSDP, DeepSpeed, and Megatron-LM). We observe that TGNN resembles language modeling, i.e., the message aggregation operation between chronologically occurring nodes and their temporal neighbors in TGNNs can be structured as sequence modeling. Beside this similarity, we also incorporate a series of algorithm designs including suffix infilling, temporal graph attention with self-loop, and causal masking self-attention to make TF-TGN work. During training, existing systems are slow in transforming the graph topology and conducting graph sampling. As such, we propose methods to parallelize the CSR format conversion and graph sampling. We also adapt Transformer codebase to train TF-TGN efficiently with multiple GPUs. We experiment with 9 graphs and compare with 2 state-of-the-art TGNN training frameworks. The results show that TF-TGN can accelerate training by over 2.20 while providing comparable or even superior accuracy to existing SOTA TGNNs. TF-TGN is available at https://github.com/qianghuangwhu/TF-TGN.
چکیده به فارسی (ترجمه ماشینی)
شبکه های عصبی نمودار موقتی (TGNNS) با ترکیب اطلاعات زمان در عملیات مبتنی بر نمودار ، از GNN های معمولی بهتر عمل می کنند.با این حال ، TGNN مدل های تخصصی (به عنوان مثال ، TGN ، TGAT و APAN) را اتخاذ می کند و به چارچوب های آموزش متناسب (به عنوان مثال ، TGL و غیره) نیاز دارد.در این مقاله ، ما TF-TGN را پیشنهاد می کنیم ، که از رمزگذار ترانسفورماتور به عنوان مدل ستون فقرات برای TGNN استفاده می کند تا از پایگاه کد ترانسفورماتور برای آموزش کارآمد لذت ببرد.به طور خاص ، ترانسفورماتور برای مدل سازی زبان به موفقیت فوق العاده ای دست می یابد ، بنابراین جامعه هسته های با کارایی بالا (به عنوان مثال ، توجه به چشمک زدن و توجه به حافظه) و طرح های آموزشی توزیع شده کارآمد (به عنوان مثال ، Pytorch FSDP ، Deepspeed و Megatron-LM) ایجاد کرد.بشرما مشاهده می کنیم که TGNN شبیه به مدل سازی زبان است ، یعنی عملکرد تجمع پیام بین گره های اتفاق زمانی و همسایگان زمانی آنها در TGNN می تواند به عنوان مدل سازی توالی ساختار یافته باشد.علاوه بر این شباهت ، ما همچنین مجموعه ای از طرح های الگوریتم از جمله پسوند ، توجه نمودار زمانی را با حلقه خود و خود پوشاننده علی قرار می دهیم تا بتوانند TF-TGN را کار کنیم.در طول آموزش ، سیستم های موجود در تبدیل توپولوژی نمودار و انجام نمونه گیری نمودار کند هستند.به این ترتیب ، ما روش هایی را برای موازی سازی تبدیل فرمت CSR و نمونه گیری نمودار پیشنهاد می کنیم.ما همچنین کد کد ترانسفورماتور را برای آموزش TF-TGN به طور کارآمد با GPU های متعدد تطبیق می دهیم.ما با 9 نمودار آزمایش می کنیم و با 2 چارچوب آموزشی پیشرفته TGNN مقایسه می کنیم.نتایج نشان می دهد که TF-TGN می تواند بیش از 2.20 آموزش را تسریع کند در حالی که دقت قابل مقایسه یا حتی برتر را برای SOTA TGNN های موجود ارائه می دهد.tf-tgn در https://github.com/qianghuangwhu/tf-tgn موجود است.
📚 محتوای این محصول آموزشی (پکیج کامل)
علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیقتر و تسلط کامل بر مباحث مجموعهای از کتابهای آموزشی نیز ارائه میشود.
کتاب پرسش و پاسخ چهارگزینهای – نسخه یادگیری سریع
— پاسخها بلافاصله بعد از سؤال برای مرور سریع
مشاهده نمونه نسخه کوییز سریع
کتاب پرسش و پاسخ چهارگزینهای – نسخه خودآزمایی
— پاسخها در انتهای بخشها برای سنجش واقعی یادگیری
مشاهده نمونه نسخه آزمونی
🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتابها، تمرینها و خودآزمایی.
ℹ️ نکات مهم هنگام خرید
این محصول به صورت فایل دانلودی کامل ارائه میشود.
توجه: لینکهای اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال میشوند.
دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینکها را دریافت نکردهاید، نام و نام خانوادگی و نام محصول را پیامک کنید تا
لینکها دوباره ارسال شوند.
💬 راههای ارتباطی پشتیبانی: واتساپ یا هر پیام رسان داخلی یا پیامک:
09395106248 تلگرام: @ma_limbs
