ترجمه فارسی مقاله مامبلار: یک مدل ترتیبی برای یادگیری عمیق جدولی

چکیده

The analysis of tabular data has traditionally been dominated by gradient-boosted decision trees (GBDTs), known for their proficiency with mixed categorical and numerical features. However, recent deep learning innovations are challenging this dominance. We introduce Mambular, an adaptation of the Mamba architecture optimized for tabular data. We extensively benchmark Mambular against state-of-the-art models, including neural networks and tree-based methods, and demonstrate its competitive performance across diverse datasets. Additionally, we explore various adaptations of Mambular to understand its effectiveness for tabular data. We investigate different pooling strategies, feature interaction mechanisms, and bi-directional processing. Our analysis shows that interpreting features as a sequence and passing them through Mamba layers results in surprisingly performant models. The results highlight Mambulars potential as a versatile and powerful architecture for tabular data analysis, expanding the scope of deep learning applications in this domain. The source code is available at https://github.com/basf/mamba-tabular.

چکیده به فارسی (ترجمه ماشینی)

تجزیه و تحلیل داده های جدولی به طور سنتی توسط درختان تصمیم گیری شیب دار (GBDTS) حاکم شده است ، که به دلیل مهارت آنها با ویژگی های طبقه بندی و عددی مختلط شناخته شده است.با این حال ، نوآوری های یادگیری عمیق اخیر این تسلط را به چالش می کشد.ما Mambular را معرفی می کنیم ، اقتباسی از معماری Mamba که برای داده های جدولی بهینه شده است.ما به طور گسترده ای در برابر مدلهای پیشرفته ، از جمله شبکه های عصبی و روشهای مبتنی بر درخت ، به طور گسترده ای معیار می کنیم و عملکرد رقابتی آن را در مجموعه داده های متنوع نشان می دهیم.علاوه بر این ، ما برای درک اثربخشی آن برای داده های جدولی ، سازگاری های مختلفی از mambular را بررسی می کنیم.ما استراتژی های مختلف جمع آوری ، مکانیسم های تعامل ویژگی و پردازش دو جهته را بررسی می کنیم.تجزیه و تحلیل ما نشان می دهد که تفسیر ویژگی ها به عنوان یک دنباله و عبور آنها از طریق لایه های Mamba منجر به مدل های شگفت آور اجرا می شود.این نتایج پتانسیل mambulars را به عنوان یک معماری همه کاره و قدرتمند برای تجزیه و تحلیل داده های جدولی برجسته می کند و دامنه برنامه های یادگیری عمیق را در این دامنه گسترش می دهد.کد منبع در https://github.com/basf/mamba-tabular در دسترس است.