ترجمه فارسی مقاله آیا مرتب سازی مجدد نمودار می تواند آموزش شبکه عصبی گراف را سرعت بخشد؟ یک مطالعه تجربی

چکیده

Graph neural networks (GNNs) are a type of neural network capable of learning on graph-structured data. However, training GNNs on large-scale graphs is challenging due to iterative aggregations of high-dimensional features from neighboring vertices within sparse graph structures combined with neural network operations. The sparsity of graphs frequently results in suboptimal memory access patterns and longer training time. Graph reordering is an optimization strategy aiming to improve the graph data layout. It has shown to be effective to speed up graph analytics workloads, but its effect on the performance of GNN training has not been investigated yet. The generalization of reordering to GNN performance is nontrivial, as multiple aspects must be considered: GNN hyper-parameters such as the number of layers, the number of hidden dimensions, and the feature size used in the GNN model, neural network operations, large intermediate vertex states, and GPU acceleration. In our work, we close this gap by performing an empirical evaluation of 12 reordering strategies in two state-of-the-art GNN systems, PyTorch Geometric and Deep Graph Library. Our results show that graph reordering is effective in reducing training time for CPU- and GPU-based training, respectively. Further, we find that GNN hyper-parameters influence the effectiveness of reordering, that reordering metrics play an important role in selecting a reordering strategy, that lightweight reordering performs better for GPU-based than for CPU-based training, and that invested reordering time can in many cases be amortized.

چکیده به فارسی (ترجمه ماشینی)

شبکه های عصبی نمودار (GNN) نوعی از شبکه عصبی هستند که قادر به یادگیری بر روی داده های ساخته شده از نمودار هستند.با این حال ، آموزش GNN در نمودارهای در مقیاس بزرگ به دلیل تجمع تکراری از ویژگی های با ابعاد بالا از راس های همسایه در ساختارهای نمودار پراکنده همراه با عملیات شبکه عصبی ، چالش برانگیز است.کمبود نمودارها اغلب منجر به الگوهای دسترسی به حافظه زیر حد و زمان آموزش طولانی تر می شود.تنظیم مجدد نمودار یک استراتژی بهینه سازی با هدف بهبود طرح داده های نمودار است.نشان داده شده است که برای سرعت بخشیدن به بار کاری نمودار تجزیه و تحلیل مؤثر است ، اما تأثیر آن بر عملکرد آموزش GNN هنوز مورد بررسی قرار نگرفته است.تعمیم مجدد به عملکرد GNN غیرقانونی است ، زیرا باید جنبه های مختلفی در نظر گرفته شود: پارامترهای Hyper GNN مانند تعداد لایه ها ، تعداد ابعاد پنهان و اندازه ویژگی مورد استفاده در مدل GNN ، عملیات شبکه عصبی ، واسطه بزرگایالات ورتکس و شتاب GPU.در کار خود ، ما با انجام یک ارزیابی تجربی از 12 استراتژی مرتب سازی در دو سیستم پیشرفته GNN ، کتابخانه هندسی و نمودار عمیق ، این شکاف را می بندیم.نتایج ما نشان می دهد که مرتب سازی نمودار به ترتیب در کاهش زمان آموزش برای آموزش CPU- و GPU مؤثر است.علاوه بر این ، ما می یابیم که پارامترهای Hyper GNN بر اثربخشی تنظیم مجدد تأثیر می گذارد ، که تنظیم مجدد معیارها نقش مهمی در انتخاب یک استراتژی تنظیم مجدد دارند ، که تنظیم مجدد سبک وزن برای آموزش GPU بهتر از آموزش مبتنی بر CPU است ، و این زمان می تواند سرمایه گذاری سرمایه گذاری شوددر بسیاری از موارد استهلاک می شود.