ترجمه فارسی مقاله SGFormer: ترانسفورماتورهای گراف تک لایه با پیچیدگی خطی بدون تقریب

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی SGFormer: Single-Layer Graph Transformers with Approximation-Free Linear Complexity
عنوان مقاله به فارسی SGFormer: ترانسفورماتورهای گراف تک لایه با پیچیدگی خطی بدون تقریب
نویسندگان Qitian Wu, Kai Yang, Hengrui Zhang, David Wipf, Junchi Yan
فرمت مقاله انگلیسی PDF
تعداد صفحات 16
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Artificial Intelligence,یادگیری ماشین , هوش مصنوعی ,
توضیحات Submitted 13 September, 2024; originally announced September 2024. , Comments: Extended version of NeurIPS2023 contribution arXiv:2306.10759
توضیحات به فارسی ارسال شده 13 سپتامبر 2024 ؛در ابتدا در سپتامبر 2024 اعلام شد ، نظرات: نسخه گسترده Neurips2023 مشارکت Arxiv: 2306.10759
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Learning representations on large graphs is a long-standing challenge due to the inter-dependence nature. Transformers recently have shown promising performance on small graphs thanks to its global attention for capturing all-pair interactions beyond observed structures. Existing approaches tend to inherit the spirit of Transformers in language and vision tasks, and embrace complicated architectures by stacking deep attention-based propagation layers. In this paper, we attempt to evaluate the necessity of adopting multi-layer attentions in Transformers on graphs, which considerably restricts the efficiency. Specifically, we analyze a generic hybrid propagation layer, comprised of all-pair attention and graph-based propagation, and show that multi-layer propagation can be reduced to one-layer propagation, with the same capability for representation learning. It suggests a new technical path for building powerful and efficient Transformers on graphs, particularly through simplifying model architectures without sacrificing expressiveness. As exemplified by this work, we propose a Simplified Single-layer Graph Transformers (SGFormer), whose main component is a single-layer global attention that scales linearly w.r.t. graph sizes and requires none of any approximation for accommodating all-pair interactions. Empirically, SGFormer successfully scales to the web-scale graph ogbn-papers100M, yielding orders-of-magnitude inference acceleration over peer Transformers on medium-sized graphs, and demonstrates competitiveness with limited labeled data.

چکیده به فارسی (ترجمه ماشینی)

یادگیری بازنمایی در نمودارهای بزرگ یک چالش دیرینه به دلیل ماهیت وابستگی بین است.ترانسفورماتورها به تازگی به لطف توجه جهانی آن به دلیل گرفتن تعامل همه جفت فراتر از ساختارهای مشاهده شده ، عملکرد امیدوارکننده را در نمودارهای کوچک نشان داده اند.رویکردهای موجود تمایل دارند روح ترانسفورماتورها را در کارهای زبان و بینایی به ارث ببرد و معماری های پیچیده را با جمع کردن لایه های انتشار عمیق مبتنی بر توجه در آغوش بگیرد.در این مقاله ، ما تلاش می کنیم ضرورت اتخاذ توجه چند لایه در ترانسفورماتورها را بر روی نمودارها ارزیابی کنیم ، که به طور قابل توجهی کارآیی را محدود می کند.به طور خاص ، ما یک لایه انتشار ترکیبی عمومی ، متشکل از توجه همه جفت و انتشار مبتنی بر نمودار را تجزیه و تحلیل می کنیم ، و نشان می دهیم که انتشار چند لایه می تواند به انتشار یک لایه کاهش یابد ، با همان توانایی برای یادگیری بازنمایی.این یک مسیر فنی جدید برای ایجاد ترانسفورماتورهای قدرتمند و کارآمد بر روی نمودارها ، به ویژه از طریق ساده کردن معماری های مدل بدون قربانی کردن بیان است.همانطور که توسط این کار نمونه برداری شده است ، ما یک ترانسفورماتور نمودار تک لایه ساده (SGFormer) را پیشنهاد می کنیم ، که مؤلفه اصلی آن یک توجه جهانی یک لایه است که به صورت خطی W.R.T.اندازه نمودار و به هیچ یک از هیچکدام از تقریب ها برای اسکان تعامل همه جفت نیاز ندارد.از نظر تجربی ، SGFormer با موفقیت به نمودار در مقیاس وب OGBN-PAPERS100M می پردازد ، و باعث شتاب استنتاج سفارش از نظر ارتفاع نسبت به ترانسفورماتورهای همسالان در نمودارهای متوسط ​​می شود و با داده های دارای برچسب محدود ، رقابت را نشان می دهد.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.