ترجمه فارسی مقاله کامگرا: ابزاری برای تحلیل و اشکال‌زدایی شبکه‌های عصبی

چکیده

Neural Networks are notoriously difficult to inspect. We introduce comgra, an open source python library for use with PyTorch. Comgra extracts data about the internal activations of a model and organizes it in a GUI (graphical user interface). It can show both summary statistics and individual data points, compare early and late stages of training, focus on individual samples of interest, and visualize the flow of the gradient through the network. This makes it possible to inspect the model’s behavior from many different angles and save time by rapidly testing different hypotheses without having to rerun it. Comgra has applications for debugging, neural architecture design, and mechanistic interpretability. We publish our library through Python Package Index (PyPI) and provide code, documentation, and tutorials at https://github.com/FlorianDietz/comgra.

چکیده به فارسی (ترجمه ماشینی)

بازرسی شبکه های عصبی بسیار دشوار است.ما Comgra ، یک کتابخانه منبع باز پایتون را برای استفاده با Pytorch معرفی می کنیم.COMGRA داده های مربوط به فعال سازی داخلی یک مدل را استخراج می کند و آن را در یک GUI (رابط کاربری گرافیکی) سازماندهی می کند.این می تواند هم آمار خلاصه و هم نقاط داده های فردی را نشان دهد ، مراحل اولیه و دیررس آموزش را مقایسه کند ، روی نمونه های فردی مورد علاقه تمرکز کند و جریان شیب را از طریق شبکه تجسم کند.این امر باعث می شود رفتار مدل از زوایای مختلف بازرسی شود و با آزمایش سریع فرضیه های مختلف بدون نیاز به بازگرداندن آن ، در زمان صرفه جویی شود.COMGRA برنامه هایی برای اشکال زدایی ، طراحی معماری عصبی و تفسیر مکانیکی دارد.ما کتابخانه خود را از طریق فهرست بسته Python (PYPI) منتشر می کنیم و کد ، مستندات و آموزش ها را در https://github.com/floriandietz/comgra ارائه می دهیم.