ترجمه فارسی مقاله AnyGraph: مدل پایه نمودار در طبیعت

چکیده

The growing ubiquity of relational data structured as graphs has underscored the need for graph learning models with exceptional generalization capabilities. However, current approaches often struggle to effectively extract generalizable insights, frequently requiring extensive fine-tuning and limiting their versatility. Graph foundation models offer a transformative solution, with the potential to learn robust, generalizable representations from graph data. This enables more effective and adaptable applications across a wide spectrum of tasks and domains. In this work, we investigate a unified graph model, AnyGraph, designed to handle key challenges: i) Structure Heterogenity. Addressing distribution shift in graph structural information; ii) Feature Heterogenity. Handling diverse feature representation spaces across graph datasets; iii) Fast Adaptation. Efficiently adapting the model to new graph domains; iv) Scaling Law Emergence. Enabling the model to exhibit scaling law behavior, where its performance scales favorably with the amount of data and parameter sizes. To tackle these critical challenges, we build the AnyGraph upon a Graph Mixture-of-Experts (MoE) architecture. This approach empowers the model to effectively manage both the in-domain and cross-domain distribution shift concerning structure-level and feature-level heterogeneity. Furthermore, a lightweight graph expert routing mechanism is proposed to facilitate AnyGraph’s fast adaptability to new data and domains. Our extensive experiments on diverse 38 graph datasets have demonstrated the strong zero-shot learning performance of AnyGraph across diverse graph domains with significant distribution shift. Furthermore, we have validated the model’s fast adaptation ability and scaling law emergence, showcasing its versatility.

چکیده به فارسی (ترجمه ماشینی)

رو به رشد در حال رشد داده های رابطه ای که به عنوان نمودارها ساخته شده است ، نیاز به مدل های یادگیری گراف را با قابلیت تعمیم استثنایی تأکید کرده است.با این حال ، رویکردهای فعلی اغلب برای استخراج مؤثر بینش های قابل تعمیم تلاش می کنند ، که اغلب نیاز به تنظیم دقیق و محدود کردن تطبیق پذیری آنها دارند.مدل های بنیاد نمودار یک راه حل تحول آمیز ارائه می دهند ، با این امکان که می توان بازنمایی های قابل تعمیم قوی و قابل تعمیم را از داده های نمودار یاد گرفت.این کار برنامه های مؤثرتر و سازگار تر را در طیف گسترده ای از کارها و دامنه ها امکان پذیر می کند.در این کار ، ما یک مدل نمودار یکپارچه ، Anygraph را بررسی می کنیم که برای مقابله با چالش های کلیدی طراحی شده است: i) ناهمگونی ساختار.پرداختن به تغییر توزیع در اطلاعات ساختاری نمودار ؛ب) ناهمگونی ویژگی.رسیدگی به فضاهای بازنمایی ویژگی های متنوع در مجموعه داده های نمودار.iii) سازگاری سریع.سازگار کردن مدل با دامنه های نمودار جدید.IV) ظهور قانون مقیاس.این مدل را قادر می سازد تا رفتار قانون مقیاس را نشان دهد ، جایی که مقیاس عملکرد آن با میزان داده و اندازه پارامتر مطلوب است.برای مقابله با این چالش های مهم ، ما Anygraph را بر روی معماری مخلوط نمودار (MOE) می سازیم.این رویکرد به مدل این امکان را می دهد تا به طور مؤثر تغییر توزیع توزیع دامنه و متقابل را در مورد ناهمگونی سطح ساختار و سطح ویژگی مدیریت کند.علاوه بر این ، یک مکانیسم مسیریابی متخصص نمودار سبک برای تسهیل سازگاری سریع Anygraph با داده ها و دامنه های جدید پیشنهاد شده است.آزمایش های گسترده ما در مورد مجموعه داده های گرافیکی متنوع 38 عملکرد یادگیری صفر قوی از هرگونه گراف را در حوزه های گرافیکی متنوع با تغییر توزیع قابل توجه نشان داده است.علاوه بر این ، ما توانایی سازگاری سریع مدل و ظهور قانون مقیاس را تأیید کرده ایم و همه کاره بودن آن را نشان می دهد.