ترجمه فارسی مقاله آیا قوانین مقیاس گذاری عصبی در یادگیری خود نظارتی نمودار وجود دارد؟

انتخاب پلن

انتخاب پلن برای ادامه خرید الزامی است.

عنوان مقاله به انگلیسی Do Neural Scaling Laws Exist on Graph Self-Supervised Learning?
عنوان مقاله به فارسی آیا قوانین مقیاس گذاری عصبی در یادگیری خود نظارتی نمودار وجود دارد؟
نویسندگان Qian Ma, Haitao Mao, Jingzhe Liu, Zhehua Zhang, Chunlin Feng, Yu Song, Yihan Shao, Yao Ma
فرمت مقاله انگلیسی PDF
تعداد صفحات 17
لینک دانلود رایگان مقاله انگلیسی دانلود مقاله
دسته بندی موضوعات Machine Learning,Artificial Intelligence,یادگیری ماشین , هوش مصنوعی ,
توضیحات Submitted 26 August, 2024; v1 submitted 20 August, 2024; originally announced August 2024.
توضیحات به فارسی ارسال شده در 26 اوت 2024 ؛V1 ارسال شده در 20 اوت 2024 ؛در ابتدا اوت 2024 اعلام شد.
اطلاعات بیشتر از این مقاله در پایگاه های علمی INSPIRE HEP
NASA ADS
Google Scholar
Semantic Scholar

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

چکیده

Self-supervised learning~(SSL) is essential to obtain foundation models in NLP and CV domains via effectively leveraging knowledge in large-scale unlabeled data. The reason for its success is that a suitable SSL design can help the model to follow the neural scaling law, i.e., the performance consistently improves with increasing model and dataset sizes. However, it remains a mystery whether existing SSL in the graph domain can follow the scaling behavior toward building Graph Foundation Models~(GFMs) with large-scale pre-training. In this study, we examine whether existing graph SSL techniques can follow the neural scaling behavior with the potential to serve as the essential component for GFMs. Our benchmark includes comprehensive SSL technique implementations with analysis conducted on both the conventional SSL setting and many new settings adopted in other domains. Surprisingly, despite the SSL loss continuously decreasing, no existing graph SSL techniques follow the neural scaling behavior on the downstream performance. The model performance only merely fluctuates on different data scales and model scales. Instead of the scales, the key factors influencing the performance are the choices of model architecture and pretext task design. This paper examines existing SSL techniques for the feasibility of Graph SSL techniques in developing GFMs and opens a new direction for graph SSL design with the new evaluation prototype. Our code implementation is available online to ease reproducibility on https://github.com/GraphSSLScaling/GraphSSLScaling.

چکیده به فارسی (ترجمه ماشینی)

یادگیری خود تحت نظارت ~ (SSL) برای به دست آوردن مدلهای پایه در حوزه های NLP و CV از طریق استفاده مؤثر دانش در داده های بدون برچسب در مقیاس بزرگ ضروری است.دلیل موفقیت آن این است که یک طراحی مناسب SSL می تواند به مدل کمک کند تا از قانون مقیاس بندی عصبی پیروی کند ، یعنی عملکرد به طور مداوم با افزایش اندازه مدل و مجموعه داده ها بهبود می یابد.با این حال ، این یک رمز و راز باقی مانده است که آیا SSL موجود در حوزه نمودار می تواند رفتار مقیاس گذاری را به سمت مدل های پایه نمودار ساختاری ~ (GFMS) با پیش از آموزش در مقیاس بزرگ دنبال کند.در این مطالعه ، ما بررسی می کنیم که آیا تکنیک های SSL نمودار موجود می توانند رفتار مقیاس بندی عصبی را با پتانسیل خدمت به عنوان مؤلفه اساسی GFM ها دنبال کنند.معیار ما شامل اجرای جامع تکنیک SSL با تجزیه و تحلیل انجام شده در هر دو تنظیم SSL معمولی و بسیاری از تنظیمات جدید اتخاذ شده در حوزه های دیگر است.با کمال تعجب ، با وجود کاهش مداوم SSL به طور مداوم کاهش می یابد ، هیچ تکنیک SSL نمودار موجود از رفتار مقیاس عصبی در عملکرد پایین دست پیروی می کند.عملکرد مدل فقط در مقیاس داده های مختلف و مقیاس مدل نوسان دارد.به جای مقیاس ، عوامل اصلی مؤثر بر عملکرد ، انتخاب معماری مدل و طراحی کار بهانه است.در این مقاله تکنیک های SSL موجود برای امکان سنجی تکنیک های SSL Graph در توسعه GFMS بررسی شده و جهت جدیدی را برای طراحی SSL با نمونه اولیه ارزیابی باز می کند.اجرای کد ما به صورت آنلاین در دسترس است تا تکرارپذیری را در https://github.com/graphsslscaling/graphsslscaling انجام دهد.

📚 محتوای این محصول آموزشی (پکیج کامل)

علاوه بر مقاله اصلی انگلیسی که دریافت می کنید، برای یادگیری عمیق‌تر و تسلط کامل بر مباحث مجموعه‌ای از کتاب‌های آموزشی نیز ارائه می‌شود.

🎯 این بسته یک دورهٔ آموزشی کامل و چندلایه است؛ شامل ویدیوهای آموزشی، کتاب‌ها، تمرین‌ها و خودآزمایی.

ℹ️ نکات مهم هنگام خرید

  • این محصول به صورت فایل دانلودی کامل ارائه می‌شود.
  • توجه: لینک‌های اختصاصی دوره طی حداکثر 24 ساعت پس از ثبت سفارش ارسال می‌شوند.
  • دقت کنید لینک ها به شماره موبایل شما ارسال می شوند. پس در ارائه شماره موبایل صحیح دقت کنید.
  • برای راهنمایی در مورد نحوه دانلود به شماره 09395106248 پیامک دهید یا تماس بگیرید. (ایده آل ترین گزینه ارسال پیام در یکی از پیام رسان ها به همین شماره است تا سریعا لینک های محصول همان جا برای شما ارسال گردد.)
  • اگر پرداخت انجام شده ولی بعد از 24 ساعت هنوز لینک‌ها را دریافت نکرده‌اید، نام و نام خانوادگی و نام محصول را پیامک کنید تا لینک‌ها دوباره ارسال شوند.

💬 راه‌های ارتباطی پشتیبانی:
واتس‌اپ یا هر پیام رسان داخلی یا پیامک: 09395106248
تلگرام: @ma_limbs

نظرات

هنوز نظری ثبت نشده است.

وارد شوید تا نظر ثبت کنید.