تشخیص موجودیت نامدار (NER) یکی از وظایف اساسی در پردازش زبان طبیعی (NLP) است. این وظیفه شامل شناسایی و دسته‌بندی موجودیت‌های خاص در یک متن، مانند نام افراد، سازمان‌ها، مکان‌ها، تاریخ‌ها، و غیره، می‌شود. اگرچه تحقیقات پیشرفته‌ای در این زمینه صورت گرفته است، اما بیشتر آن‌ها بر روی زبان‌های پرکاربرد مانند انگلیسی متمرکز شده‌اند و زبان‌های کم‌کاربردتر، از جمله زبان مالایی، از این پیشرفت‌ها بهره کمتری برده‌اند.

این مقاله توسط Yingwen Fu، Nankai Lin، Zhihe Yang و Shengyi Jiang به رشته تحریر درآمده است. این محققان در زمینه پردازش زبان طبیعی و یادگیری ماشین فعالیت می‌کنند و تلاش آن‌ها در این مقاله معطوف به توسعه منابع و مدل‌های NER برای زبان مالایی است. تمرکز بر زبان‌های کم‌کاربرد نشان‌دهنده اهمیتی است که این محققان برای گسترش دسترسی به فناوری‌های NLP برای جوامع زبانی مختلف قائل هستند. این تحقیق در دسته Computation and Language قرار می گیرد.

این مقاله به معرفی یک مجموعه داده منبع‌باز برای تشخیص موجودیت نامدار در زبان مالایی (MYNER) و یک مدل چندکاره (MT) برای بهبود عملکرد NER در این زبان می‌پردازد. به دلیل محدودیت منابع NER برای زبان مالایی، نویسندگان یک چارچوب ساخت مجموعه داده بر اساس مجموعه‌های داده برچسب‌گذاری شده از زبان‌های هم‌خانواده و بهینه‌سازی تکراری پیشنهاد می‌کنند. این مجموعه داده شامل ۲۸,۹۹۱ جمله (بیش از ۳۸۴ هزار توکن) است. علاوه بر این، برای ادغام بهتر اطلاعات مرزی برای NER، یک مدل MT با یک مکانیسم بازبینی دوطرفه (Bi-revision) برای وظیفه NER زبان مالایی پیشنهاد شده است. به طور خاص، یک وظیفه کمکی، یعنی تشخیص مرز، برای بهبود آموزش NER به دو روش صریح و ضمنی معرفی شده است. همچنین، یک مکانیسم نادیده گرفتن گیت‌دار برای انجام انتقال شرطی برچسب و کاهش انتشار خطا توسط وظیفه کمکی پیشنهاد شده است. نتایج تجربی نشان می‌دهد که مدل پیشنهادی در مقایسه با مدل‌های پایه در MYNER نتایج قابل قبولی به دست می‌آورد. مجموعه داده و مدل در این مقاله به عنوان یک مجموعه داده محک به طور عمومی منتشر می‌شوند.

به طور خلاصه، این مقاله به سه دستاورد اصلی می‌پردازد:

• ایجاد یک مجموعه داده بزرگ و با کیفیت برای NER زبان مالایی (MYNER).
• ارائه یک مدل چندکاره جدید با مکانیسم بازبینی دوطرفه برای بهبود عملکرد NER.
• انتشار عمومی مجموعه داده و مدل به عنوان یک مرجع برای تحقیقات آینده.

روش‌شناسی این تحقیق شامل چندین مرحله کلیدی است:

1. ساخت مجموعه داده: نویسندگان از یک رویکرد نوآورانه برای ساخت مجموعه داده MYNER استفاده کردند. آن‌ها از داده‌های برچسب‌گذاری شده زبان‌های هم‌خانواده با زبان مالایی بهره بردند و از یک فرایند بهینه‌سازی تکراری برای افزایش کیفیت و دقت مجموعه داده استفاده کردند. این رویکرد به ویژه برای زبان‌های کم‌کاربرد که منابع داده محدودی دارند، بسیار ارزشمند است.
2. طراحی مدل چندکاره: مدل پیشنهادی MT با مکانیسم بازبینی دوطرفه (Bi-revision) برای بهبود عملکرد NER با ادغام اطلاعات مرزی طراحی شده است. این مدل شامل یک وظیفه کمکی (تشخیص مرز) است که به مدل کمک می‌کند تا مرزهای موجودیت‌های نامدار را بهتر تشخیص دهد.
3. مکانیسم نادیده گرفتن گیت‌دار: برای جلوگیری از انتشار خطا از وظیفه کمکی به وظیفه اصلی (NER)، یک مکانیسم نادیده گرفتن گیت‌دار پیاده‌سازی شده است. این مکانیسم به مدل اجازه می‌دهد تا به طور انتخابی از اطلاعات وظیفه کمکی استفاده کند و از تاثیرات منفی احتمالی جلوگیری کند.
4. ارزیابی تجربی: مدل پیشنهادی با مدل‌های پایه (baseline) مختلف بر روی مجموعه داده MYNER مقایسه شده است. نتایج تجربی نشان می‌دهد که مدل پیشنهادی عملکرد بهتری نسبت به مدل‌های پایه دارد.

برای مثال، فرض کنید جمله‌ی زیر به زبان مالایی داریم:

“Perdana Menteri Anwar Ibrahim melawat Kuala Lumpur pada hari Sabtu.”

در این جمله، وظیفه NER شناسایی و دسته‌بندی موجودیت‌های زیر است:

• Anwar Ibrahim: نام شخص
• Kuala Lumpur: نام مکان
• Sabtu: روز هفته

مدل پیشنهادی با استفاده از اطلاعات مرزی و مکانیسم‌های یادگیری چندگانه، قادر است این موجودیت‌ها را با دقت بالا تشخیص دهد.

یافته‌های کلیدی این تحقیق عبارتند از:

• مجموعه داده MYNER: ایجاد یک مجموعه داده بزرگ و با کیفیت برای NER زبان مالایی، یک گام مهم در توسعه فناوری‌های NLP برای این زبان است.
• مدل MT با مکانیسم Bi-revision: این مدل عملکرد بهتری نسبت به مدل‌های پایه در تشخیص موجودیت‌های نامدار در زبان مالایی دارد.
• مکانیسم نادیده گرفتن گیت‌دار: این مکانیسم به طور موثری از انتشار خطا از وظیفه کمکی جلوگیری می‌کند و عملکرد کلی مدل را بهبود می‌بخشد.
• دسترسی عمومی: انتشار عمومی مجموعه داده و مدل، امکان استفاده و توسعه بیشتر این منابع را برای سایر محققان فراهم می‌کند.

به طور خاص، تاثیر مثبت وظیفه کمکی (تشخیص مرز) بر عملکرد NER، نشان‌دهنده اهمیت ادغام اطلاعات مرتبط در فرایند یادگیری ماشین است. همچنین، مکانیسم نادیده گرفتن گیت‌دار، یک رویکرد موثر برای مدیریت عدم قطعیت و جلوگیری از انتشار خطا در مدل‌های چندکاره است.

این تحقیق دارای کاربردها و دستاوردهای متعددی است:

• توسعه NLP برای زبان مالایی: این تحقیق به توسعه ابزارها و فناوری‌های NLP برای زبان مالایی کمک می‌کند و امکان پردازش و تحلیل متون مالایی را بهبود می‌بخشد.
• بهبود عملکرد NER: مدل پیشنهادی می‌تواند برای بهبود عملکرد سیستم‌های NER موجود در زبان مالایی استفاده شود.
• ایجاد منابع آموزشی: مجموعه داده MYNER می‌تواند به عنوان یک منبع آموزشی برای دانشجویان و محققان علاقه‌مند به NLP و زبان مالایی مورد استفاده قرار گیرد.
• پایه‌گذاری تحقیقات آینده: این تحقیق می‌تواند به عنوان پایه‌ای برای تحقیقات آینده در زمینه NER و مدل‌های چندکاره در زبان‌های کم‌کاربرد عمل کند.

به عنوان مثال، این تحقیق می‌تواند در توسعه سیستم‌های ترجمه ماشینی، تحلیل احساسات، و خلاصه‌سازی متون مالایی مورد استفاده قرار گیرد. همچنین، مجموعه داده MYNER می‌تواند به عنوان یک معیار برای ارزیابی عملکرد مدل‌های جدید NER در زبان مالایی استفاده شود.

این مقاله یک گام مهم در جهت توسعه منابع و مدل‌های NLP برای زبان مالایی است. نویسندگان با ایجاد یک مجموعه داده منبع‌باز و ارائه یک مدل چندکاره جدید، سهم قابل توجهی در این زمینه داشته‌اند. این تحقیق نشان می‌دهد که با استفاده از رویکردهای نوآورانه و ادغام اطلاعات مرتبط، می‌توان عملکرد سیستم‌های NER را در زبان‌های کم‌کاربرد بهبود بخشید. انتشار عمومی مجموعه داده و مدل، امکان استفاده و توسعه بیشتر این منابع را برای سایر محققان فراهم می‌کند و به پیشرفت NLP در زبان مالایی کمک خواهد کرد. این تحقیق نشان می دهد که استفاده از یک وظیفه کمکی و مکانیسم نادیده گرفتن گیت دار می تواند به طور چشمگیری عملکرد مدل را بهبود بخشد.