پردازش زبان طبیعی (NLP) به عنوان یک حوزه مهم در علوم کامپیوتر و هوش مصنوعی، به تعامل بین کامپیوترها و زبان انسان می‌پردازد. پیشرفت‌های قابل توجهی در این حوزه برای زبان‌های انگلیسی و برخی زبان‌های دیگر حاصل شده است، اما زبان‌های کم‌منبع (Low-Resource Languages) مانند مراتی، اغلب از این پیشرفت‌ها عقب مانده‌اند. مقاله حاضر، با عنوان “L3Cube-MahaNLP: مجموعه داده‌ها، مدل‌ها و کتابخانه پردازش زبان طبیعی مراتی”، به دنبال رفع این کمبود و ارائه ابزارهای کارآمد برای پردازش زبان مراتی است.

این مقاله، گامی مهم در جهت تسهیل تحقیقات و توسعه‌های مبتنی بر زبان مراتی در حوزه‌های مختلف از جمله تحلیل احساسات، تشخیص موجودیت‌های نام‌گذاری شده و تشخیص سخنان نفرت‌انگیز به شمار می‌رود. هدف اصلی، ایجاد زیرساختی قوی برای پژوهشگران و توسعه‌دهندگان به منظور کار با زبان مراتی در پروژه‌های NLP است.

نویسنده اصلی این مقاله، آقای راویراج جوشی (Raviraj Joshi) است. زمینه تحقیقاتی ایشان به طور کلی در حوزه پردازش زبان طبیعی و یادگیری ماشین قرار دارد. این تحقیق در راستای تلاش برای غنی‌سازی منابع NLP برای زبان‌های کم‌منبع انجام شده است. تمرکز بر زبان مراتی، با توجه به جمعیت قابل توجه گویشوران این زبان در هند، اهمیت ویژه‌ای دارد. فقدان ابزارهای NLP مناسب برای زبان مراتی، انگیزه اصلی این تحقیق را تشکیل می‌دهد. ایجاد منابع و مدل‌های قابل استفاده، می‌تواند در توسعه برنامه‌های کاربردی مختلف از جمله ترجمه ماشینی، تحلیل متن و سیستم‌های پاسخگویی خودکار به زبان مراتی، نقش بسزایی ایفا کند.

این مقاله به معرفی L3Cube-MahaNLP، یک مجموعه جامع از منابع و ابزارها برای پردازش زبان طبیعی مراتی می‌پردازد. علیرغم اینکه زبان مراتی سومین زبان پرکاربرد در هند است، فاقد منابع کافی در حوزه NLP است و کتابخانه‌های محبوب NLP نیز از این زبان پشتیبانی نمی‌کنند. هدف از ارائه L3Cube-MahaNLP، ایجاد منابع و یک کتابخانه تخصصی برای پردازش زبان طبیعی مراتی است.

در این مقاله، مجموعه‌های داده و مدل‌های ترنسفورمر (Transformer Models) برای وظایف یادگیری نظارت‌شده مانند تحلیل احساسات، تشخیص موجودیت‌های نام‌گذاری شده (NER) و تشخیص سخنان نفرت‌انگیز (Hate Speech Detection) ارائه شده‌اند. علاوه بر این، یک پیکره زبانی (Corpus) تک‌زبانه مراتی برای وظایف مدل‌سازی زبان غیرنظارتی (Unsupervised Language Modeling) نیز منتشر شده است.

به طور کلی، این مقاله مجموعه‌های داده MahaCorpus، MahaSent، MahaNER و MahaHate و مدل‌های MahaBERT متناظر با آن‌ها را که بر روی این مجموعه‌های داده آموزش داده شده‌اند، معرفی می‌کند. هدف این پروژه، فراتر رفتن از مجموعه‌های داده محک (Benchmark Datasets) و تهیه منابع مفید برای زبان مراتی است. این منابع در آدرس اینترنتی https://github.com/l3cube-pune/MarathiNLP در دسترس هستند.

روش‌شناسی تحقیق در این مقاله بر ایجاد و آماده‌سازی مجموعه‌های داده و سپس آموزش مدل‌های ترنسفورمر بر روی این داده‌ها متمرکز است. مراحل اصلی عبارتند از:

1. گردآوری و آماده‌سازی مجموعه‌های داده: ایجاد چهار مجموعه داده اصلی (MahaCorpus، MahaSent، MahaNER و MahaHate) از منابع مختلف. این مرحله شامل جمع‌آوری متون مراتی از وب‌سایت‌ها، شبکه‌های اجتماعی و سایر منابع آنلاین، و همچنین برچسب‌گذاری دستی داده‌ها برای وظایف یادگیری نظارت‌شده (مانند تحلیل احساسات و تشخیص موجودیت‌های نام‌گذاری شده) است. برای مثال، در مجموعه داده MahaSent، جملات بر اساس احساسات (مثبت، منفی، خنثی) برچسب‌گذاری شده‌اند. مجموعه داده MahaNER شامل متونی است که در آن موجودیت‌های نام‌گذاری شده (مانند نام افراد، مکان‌ها، سازمان‌ها) شناسایی و برچسب‌گذاری شده‌اند.
2. آموزش مدل‌های ترنسفورمر: استفاده از معماری ترنسفورمر، به ویژه مدل BERT (Bidirectional Encoder Representations from Transformers)، به عنوان پایه برای ایجاد مدل‌های MahaBERT. مدل BERT یک مدل زبانی از پیش آموزش‌دیده است که می‌تواند برای وظایف مختلف NLP به خوبی تنظیم شود. در این تحقیق، مدل MahaBERT با استفاده از مجموعه‌های داده MahaCorpus، MahaSent، MahaNER و MahaHate به طور خاص برای زبان مراتی آموزش داده شده است. این فرآیند شامل تنظیم پارامترهای مدل با استفاده از الگوریتم‌های یادگیری ماشین است تا عملکرد مدل در وظایف خاص بهبود یابد.
3. ارزیابی مدل‌ها: ارزیابی عملکرد مدل‌های آموزش‌دیده بر روی مجموعه‌های داده تست (Test Datasets) با استفاده از معیارهای ارزیابی مناسب برای هر وظیفه. به عنوان مثال، برای تحلیل احساسات، از معیارهایی مانند دقت (Accuracy)، بازخوانی (Recall) و F1-score استفاده می‌شود. برای تشخیص موجودیت‌های نام‌گذاری شده، معیارهایی مانند دقت، بازخوانی و F1-score بر اساس تطابق موجودیت‌های شناسایی شده با موجودیت‌های برچسب‌گذاری شده در مجموعه داده تست محاسبه می‌شوند.

یافته‌های کلیدی این تحقیق عبارتند از:

• ایجاد مجموعه‌های داده با کیفیت: ایجاد مجموعه‌های داده MahaCorpus، MahaSent، MahaNER و MahaHate، که منابع ارزشمندی برای تحقیقات NLP بر روی زبان مراتی هستند. اندازه و کیفیت این مجموعه‌های داده، امکان آموزش مدل‌های با دقت بالا را فراهم می‌کند.
• آموزش مدل‌های MahaBERT با عملکرد بالا: مدل‌های MahaBERT که بر روی مجموعه‌های داده ایجاد شده آموزش داده شده‌اند، عملکرد قابل قبولی در وظایف تحلیل احساسات، تشخیص موجودیت‌های نام‌گذاری شده و تشخیص سخنان نفرت‌انگیز از خود نشان داده‌اند. این نشان می‌دهد که مدل BERT می‌تواند به طور موثری برای زبان مراتی بهینه شود.
• ارائه یک کتابخانه NLP برای زبان مراتی: L3Cube-MahaNLP یک کتابخانه جامع ارائه می‌دهد که شامل مجموعه‌های داده، مدل‌های آموزش‌دیده و ابزارهای پردازش زبان است. این کتابخانه، کار را برای پژوهشگران و توسعه‌دهندگان تسهیل می‌کند و امکان توسعه برنامه‌های کاربردی NLP برای زبان مراتی را فراهم می‌سازد.

به طور خلاصه، این تحقیق توانسته است یک پایه قوی برای تحقیقات NLP بر روی زبان مراتی ایجاد کند.

L3Cube-MahaNLP دارای کاربردهای گسترده‌ای در حوزه‌های مختلف است. برخی از مهم‌ترین کاربردها و دستاوردهای این پروژه عبارتند از:

• تحلیل احساسات: با استفاده از مدل MahaSent، می‌توان احساسات موجود در متون مراتی را تحلیل کرد. این قابلیت می‌تواند در تحلیل بازخورد مشتریان در شبکه‌های اجتماعی، نظرسنجی‌ها و بررسی محصولات مورد استفاده قرار گیرد. برای مثال، یک شرکت می‌تواند از این ابزار برای بررسی نظرات کاربران مراتی‌زبان در مورد محصول جدید خود استفاده کند و میزان رضایت آن‌ها را ارزیابی کند.
• تشخیص موجودیت‌های نام‌گذاری شده: مدل MahaNER می‌تواند موجودیت‌های نام‌گذاری شده مانند نام افراد، مکان‌ها و سازمان‌ها را در متون مراتی شناسایی کند. این قابلیت در استخراج اطلاعات از متون خبری، اسناد حقوقی و سایر منابع اطلاعاتی مفید است. به عنوان مثال، می‌توان از این ابزار برای استخراج اسامی سیاستمداران و سازمان‌های دخیل در یک خبر سیاسی به زبان مراتی استفاده کرد.
• تشخیص سخنان نفرت‌انگیز: مدل MahaHate می‌تواند سخنان نفرت‌انگیز و محتوای توهین‌آمیز را در متون مراتی شناسایی کند. این قابلیت در مقابله با نفرت‌پراکنی در شبکه‌های اجتماعی و فضای مجازی اهمیت زیادی دارد. به عنوان مثال، می‌توان از این ابزار برای شناسایی و حذف پست‌های حاوی سخنان نفرت‌انگیز در یک پلتفرم رسانه‌های اجتماعی مراتی‌زبان استفاده کرد.
• توسعه سیستم‌های پاسخگویی خودکار: مجموعه‌های داده و مدل‌های ارائه شده در این مقاله می‌توانند در توسعه سیستم‌های پاسخگویی خودکار (Chatbots) به زبان مراتی مورد استفاده قرار گیرند. این سیستم‌ها می‌توانند به سوالات کاربران پاسخ دهند، اطلاعات مورد نیاز آن‌ها را ارائه دهند و به انجام وظایف مختلف کمک کنند.
• پیشرفت تحقیقات NLP بر روی زبان مراتی: L3Cube-MahaNLP یک پایه قوی برای تحقیقات بیشتر در حوزه NLP بر روی زبان مراتی فراهم می‌کند. این منابع می‌توانند توسط پژوهشگران برای توسعه مدل‌های جدید، بررسی الگوریتم‌های مختلف و حل مسائل پیچیده‌تر در حوزه پردازش زبان طبیعی مورد استفاده قرار گیرند.

مقاله “L3Cube-MahaNLP: مجموعه داده‌ها، مدل‌ها و کتابخانه پردازش زبان طبیعی مراتی” گامی مهم در جهت ارتقای قابلیت‌های NLP برای زبان مراتی است. ارائه مجموعه‌های داده با کیفیت، مدل‌های آموزش‌دیده با عملکرد قابل قبول و یک کتابخانه جامع، امکانات جدیدی را برای پژوهشگران و توسعه‌دهندگان فراهم می‌کند. این پروژه می‌تواند در توسعه برنامه‌های کاربردی مختلف از جمله تحلیل احساسات، تشخیص موجودیت‌های نام‌گذاری شده و تشخیص سخنان نفرت‌انگیز به زبان مراتی نقش بسزایی ایفا کند. در نهایت، L3Cube-MahaNLP یک منبع ارزشمند برای جامعه NLP و یک گام مهم در جهت کاهش شکاف بین زبان‌های پرمنبع و کم‌منبع در حوزه پردازش زبان طبیعی است.