ترجمه فارسی مقاله Im2win با کارایی بالا و کانولوشن‌های مستقیم با استفاده از سه طرح‌بندی تنسوری روی معماری‌های SIMD

چکیده

Convolution is the core component within deep neural networks and it is computationally intensive and time consuming. Tensor data layouts significantly impact convolution operations in terms of memory access and computational efficiency. Yet, there is still a lack of comprehensive performance characterization on data layouts on SIMD architectures concerning convolution methods. This paper proposes three novel data layouts for im2win convolution: NHWC, CHWN, and CHWN8, and introduces a set of general optimization techniques for both direct and im2win convolutions. We compare the optimized im2win convolution with the direct convolution and PyTorch’s im2col-based convolution across the aforementioned layouts on SIMD machines. The experiments demonstrated that the im2win convolution with the new NHWC layout achieved up to 355% performance speedup over NCHW layout. Our optimizations also significantly improve the performance of both im2win and direct convolutions. Our optimized im2win and direct convolutions achieved up to 95% and 94% of machine’s theoretical peak performance, respectively.

چکیده به فارسی (ترجمه ماشینی)

Convolution مؤلفه اصلی در شبکه های عصبی عمیق است و از نظر محاسباتی فشرده و وقت گیر است.طرح بندی داده های تانسور از نظر دسترسی به حافظه و راندمان محاسباتی به طور قابل توجهی بر عملیات حلقوی تأثیر می گذارد.با این حال ، هنوز عدم توصیف عملکرد جامع در چیدمان داده ها در معماری SIMD در مورد روشهای حلقوی وجود دارد.در این مقاله سه طرح جدید داده برای Convolution IM2Win ارائه شده است: NHWC ، CHWN و CHWN8 ، و مجموعه ای از تکنیک های بهینه سازی عمومی را برای هر دو پیچش مستقیم و IM2Win معرفی می کند.ما حل و فصل IM2Win بهینه شده را با همبستگی مستقیم و حلقوی مبتنی بر IM2COL Pytorch در سراسر طرح های فوق در دستگاه های SIMD مقایسه می کنیم.این آزمایشات نشان داد که نتیجه IM2Win با طرح جدید NHWC تا 355 ٪ سرعت عملکرد نسبت به طرح NCHW به دست آمده است.بهینه سازی های ما همچنین به طور قابل توجهی عملکرد هر دو IM2Win و Cancolutions Direct را بهبود می بخشد.Consolutions IM2WIN بهینه شده ما به ترتیب 95 ٪ و 94 ٪ از عملکرد اوج نظری دستگاه را به دست آورد.