ترجمه فارسی مقاله بدون زیبابین ذخیره شده: یک زبان برنامه نویسی شبکه عصبی 100٪ با دستور زبان پایتونیک

چکیده

We developed a jitted compiler for training Artificial Neural Networks using C++, LLVM and Cuda. It features object-oriented characteristics, strong typing, parallel workers for data pre-processing, pythonic syntax for expressions, PyTorch like model declaration and Automatic Differentiation. We implement the mechanisms of cache and pooling in order to manage VRAM, cuBLAS for high performance matrix multiplication and cuDNN for convolutional layers. Our experiments with Residual Convolutional Neural Networks on ImageNet, we reach similar speed but degraded performance. Also, the GRU network experiments show similar accuracy, but our compiler have degraded speed in that task. However, our compiler demonstrates promising results at the CIFAR-10 benchmark, in which we reach the same performance and about the same speed as PyTorch. We make the code publicly available at: https://github.com/NoSavedDATA/NoSavedKaleidoscope

چکیده به فارسی (ترجمه ماشینی)

ما یک کامپایلر JITTE را برای آموزش شبکه های عصبی مصنوعی با استفاده از C ++ ، LLVM و CUDA تهیه کردیم.این ویژگی دارای ویژگی های شی گرا ، تایپ قوی ، کارگران موازی برای پیش پردازش داده ها ، نحو پیتونیک برای عبارات ، Pytorch مانند اعلام مدل و تمایز خودکار است.ما مکانیسم های حافظه نهان و استخر را به منظور مدیریت VRAM ، CUBLAS برای ضرب ماتریس با کارایی بالا و cudnn برای لایه های حلقوی اجرا می کنیم.آزمایشات ما با شبکه های عصبی باقیمانده در Imagenet ، به سرعت مشابه اما عملکرد تخریب شده می رسیم.همچنین ، آزمایش های شبکه GRU دقت مشابهی را نشان می دهد ، اما کامپایلر ما سرعت را در این کار تخریب کرده است.با این حال ، کامپایلر ما نتایج امیدوارکننده ای را در معیار CIFAR-10 نشان می دهد ، که در آن به همان عملکرد و تقریباً همان سرعت Pytorch می رسیم.ما کد را به صورت عمومی در: https://github.com/nosaveddata/nosavedkaleidoscope در دسترس قرار می دهیم