بازشناسی موجودیت‌های نام‌گذاری شده یا Named Entity Recognition (NER) یکی از وظایف بنیادین در حوزه پردازش زبان طبیعی (NLP) است. هدف اصلی این وظیفه، شناسایی و دسته‌بندی موجودیت‌های کلیدی مانند اسامی افراد، سازمان‌ها، مکان‌ها، تاریخ‌ها و مقادیر پولی در متن است. سیستم‌های NER ستون فقرات بسیاری از کاربردهای پیشرفته مانند موتورهای جستجوی هوشمند، سیستم‌های پرسش و پاسخ، استخراج اطلاعات و ساخت گراف‌های دانش را تشکیل می‌دهند.

با این حال، یکی از بزرگ‌ترین چالش‌ها در توسعه مدل‌های NER با دقت بالا، نیاز به مجموعه داده‌های عظیم و باکیفیت است که به صورت دستی برچسب‌گذاری شده باشند. این فرآیند بسیار زمان‌بر، پرهزینه و نیازمند تخصص انسانی است. برای غلبه بر این مشکل، روشی به نام نظارت دورادور (Distant Supervision) پیشنهاد شده است. در این روش، از پایگاه‌های دانش موجود (مانند ویکی‌پدیا یا DBpedia) برای برچسب‌گذاری خودکار متون استفاده می‌شود. هرچند این رویکرد تولید داده را تسریع می‌بخشد، اما یک مشکل جدی به همراه دارد: نویز فراوان در داده‌ها.

مهم‌ترین نوع این نویز، مسئله موجودیت‌های بدون برچسب (Unlabeled Entity Problem) است. این مشکل زمانی رخ می‌دهد که یک موجودیت واقعی در متن وجود دارد، اما به دلیل ناقص بودن پایگاه دانش، در مجموعه داده برچسب‌گذاری نشده است. مدل‌های سنتی که با توابع زیان استاندارد مانند آنتروپی متقاطع (Cross-Entropy) آموزش می‌بینند، با این داده‌های نویزی به شدت دچار مشکل می‌شوند. آن‌ها این موجودیت‌های بدون برچسب را به عنوان نمونه‌های منفی (یعنی «غیرموجودیت») در نظر می‌گیرند و به اشتباه یاد می‌گیرند که آن‌ها را نادیده بگیرند. این امر منجر به افت شدید عملکرد و افزایش نرخ منفی‌های کاذب (False Negatives) می‌شود.

مقاله حاضر با عنوان «یک تابع زیان نویز-مقاوم برای مسئله موجودیت‌های بدون برچسب در بازشناسی موجودیت‌های نام‌گذاری شده» به طور مستقیم این چالش حیاتی را هدف قرار می‌دهد و یک راهکار نوآورانه برای آموزش مدل‌های NER روی داده‌های نویزی ارائه می‌کند.

این مقاله توسط تیمی از محققان برجسته در زمینه هوش مصنوعی و پردازش زبان طبیعی به نگارش درآمده است:

• Wentao Kang
• Guijun Zhang
• Xiao Fu

حوزه تخصصی این پژوهش در تقاطع دو شاخه مهم از علوم کامپیوتر، یعنی محاسبات و زبان (Computation and Language) و هوش مصنوعی (Artificial Intelligence) قرار دارد. این مقاله نشان‌دهنده تلاشی برای حل مشکلات عملی در ساخت سیستم‌های هوشمند با استفاده از تکنیک‌های یادگیری عمیق و مدل‌سازی آماری است.

این پژوهش به بررسی چالش جدی «موجودیت‌های بدون برچسب» در مجموعه داده‌های تولید شده با روش نظارت دورادور برای NER می‌پردازد. نویسندگان استدلال می‌کنند که تابع زیان رایج آنتروپی متقاطع (Cross-Entropy یا CE) در مواجهه با این نوع نویز بسیار حساس عمل کرده و عملکرد مدل را به شدت تضعیف می‌کند. تابع CE مدل را مجبور می‌کند تا هر توکنی را که برچسب ندارد، به عنوان یک نمونه منفی قطعی در نظر بگیرد، در حالی که ممکن است آن توکن یک موجودیت واقعی باشد.

برای حل این مشکل، آن‌ها یک تابع زیان جدید به نام NRCES (Noise-Robust Cross-Entropy with Sigmoid) را معرفی می‌کنند. این تابع زیان با دو مکانیزم کلیدی طراحی شده است تا اثرات منفی نویز را کاهش دهد:

• استفاده از یک عبارت سیگموئید (Sigmoid Term): این عبارت به تابع زیان اجازه می‌دهد تا با عدم قطعیت برخورد کند. به جای اعمال یک جریمه سنگین برای پیش‌بینی‌های اشتباه روی داده‌های بالقوه نویزی، یک جریمه «نرم» و تعدیل‌شده اعمال می‌کند. این کار مانع از آن می‌شود که مدل با اطمینان بیش از حد، موجودیت‌های واقعی اما بدون برچسب را سرکوب کند.
• متعادل‌سازی پویا (Dynamic Balancing): تابع NRCES به گونه‌ای طراحی شده که رفتار خود را بر اساس نمونه‌ها و در طول فرآیند آموزش تنظیم کند. این ویژگی به مدل اجازه می‌دهد تا بین همگرایی سریع در مراحل اولیه و مقاومت در برابر نویز در مراحل پایانی آموزش، تعادل برقرار کند.

در نهایت، نویسندگان با انجام آزمایش‌های گسترده روی مجموعه داده‌های ترکیبی (Synthetic) و دنیای واقعی (Real-world)، کارایی رویکرد خود را به اثبات می‌رسانند. نتایج نشان می‌دهد که روش پیشنهادی در شرایطی که مسئله موجودیت‌های بدون برچسب شدید است، مقاومت بسیار بالایی از خود نشان داده و به نتایج پیشرفته و بی‌سابقه‌ای (State-of-the-art) در مجموعه داده‌های واقعی دست یافته است.

هسته اصلی نوآوری این مقاله در طراحی تابع زیان NRCES نهفته است. برای درک بهتر عملکرد آن، ابتدا باید محدودیت‌های تابع زیان استاندارد آنتروپی متقاطع را بررسی کنیم.

مشکل تابع زیان آنتروپی متقاطع (CE):

در یک مسئله NER، مدل برای هر توکن در متن، یک توزیع احتمال روی تمام برچسب‌های ممکن (مانند B-PER, I-PER, B-ORG, O) خروجی می‌دهد. تابع زیان CE با مقایسه این توزیع با برچسب واقعی (One-hot vector) و اعمال جریمه برای اختلاف آن‌ها کار می‌کند. مشکل زمانی آغاز می‌شود که برچسب واقعی به دلیل نویز، اشتباه باشد. برای مثال، در جمله «اپل یک شرکت فناوری است»، اگر کلمه «اپل» به دلیل نقص پایگاه دانش برچسب نخورده باشد، برچسب آن ‘O’ (غیرموجودیت) در نظر گرفته می‌شود. تابع CE مدل را به شدت جریمه می‌کند اگر برای «اپل» احتمالی غیر از ‘O’ پیش‌بینی کند. در نتیجه، مدل یاد می‌گیرد که حتی موجودیت‌های واضح را نادیده بگیرد تا از جریمه شدن بپرهیزد.

معرفی تابع زیان NRCES:

تابع NRCES با هوشمندی این مشکل را دور می‌زند. این تابع زیان ترکیبی است که از دو بخش تشکیل شده است: یک بخش استاندارد برای یادگیری از نمونه‌های مطمئن و یک بخش مقاوم در برابر نویز برای مدیریت نمونه‌های مشکوک.

• عبارت سیگموئید برای مقاومت در برابر نویز: به جای تکیه صرف بر خروجی Softmax که یک توزیع احتمال کامل را برمی‌گرداند، NRCES از یک تابع سیگموئید نیز بهره می‌برد. تابع سیگموئید احتمال تعلق یک توکن به دسته ‘O’ (غیرموجودیت) را به صورت یک مقدار بین ۰ و ۱ محاسبه می‌کند. این تابع زیان به گونه‌ای طراحی شده است که اگر مدل با اطمینان بالایی یک توکن را به عنوان موجودیت پیش‌بینی کند، اما برچسب آن ‘O’ باشد، جریمه کمتری نسبت به CE اعمال می‌کند. این «نرمش» به مدل اجازه می‌دهد تا دانش خود را از نمونه‌های تمیز به نمونه‌های نویزی تعمیم دهد بدون اینکه توسط برچسب‌های اشتباه گمراه شود.
• متعادل‌سازی همگرایی و مقاومت: یکی از ویژگی‌های کلیدی NRCES، توانایی آن در تنظیم پویای رفتار خود است. در مراحل اولیه آموزش، زمانی که مدل هنوز در حال یادگیری الگوهای اساسی است، تابع زیان ممکن است بیشتر شبیه به CE عمل کند تا همگرایی سریع‌تر شود. اما با پیشرفت آموزش و زمانی که خطر بیش‌برازش (Overfitting) روی نویز افزایش می‌یابد، بخش مقاوم در برابر نویز تابع زیان (بخش سیگموئیدی) وزن بیشتری پیدا می‌کند. این رویکرد تطبیقی تضمین می‌کند که مدل هم الگوهای صحیح را به خوبی یاد می‌گیرد و هم در برابر داده‌های گمراه‌کننده مقاوم باقی می‌ماند.

نویسندگان برای ارزیابی روش خود، آن را روی دو نوع مجموعه داده آزمایش کردند: یکی ترکیبی که در آن به طور کنترل‌شده نویز (موجودیت‌های بدون برچسب) اضافه شده بود و دیگری مجموعه داده‌های واقعی که به طور طبیعی نویزی هستند. این رویکرد جامع به آن‌ها اجازه داد تا نه تنها کارایی، بلکه استحکام و مقاومت روش خود را نیز به دقت بسنجند.

نتایج تجربی این مقاله به وضوح برتری روش پیشنهادی را نشان می‌دهد:

• عملکرد برتر در حضور نویز شدید: در آزمایش‌ها روی مجموعه داده‌های ترکیبی، با افزایش درصد موجودیت‌های بدون برچسب، عملکرد مدل‌های مبتنی بر CE به شدت افت می‌کرد. در مقابل، مدلی که با تابع زیان NRCES آموزش دیده بود، افتی بسیار ملایم‌تر را تجربه کرد و در تمام سطوح نویز، به طور قابل توجهی از روش‌های پایه بهتر عمل کرد. این یافته، مقاومت بالای NRCES را تایید می‌کند.
• دستیابی به نتایج پیشرفته (SOTA): در آزمایش روی مجموعه داده‌های واقعی و چالش‌برانگیز مانند CoNLL-2003 و OntoNotes 5.0 که با روش نظارت دورادور تولید شده بودند، رویکرد مبتنی بر NRCES موفق شد رکوردهای قبلی را شکسته و به نتایج State-of-the-Art (SOTA) جدیدی دست یابد. این دستاورد نشان می‌دهد که این روش نه تنها از نظر تئوری جذاب است، بلکه در عمل نیز بسیار کارآمد و مؤثر است.
• کاهش نرخ منفی‌های کاذب: تحلیل دقیق‌تر نتایج نشان داد که بهبود اصلی عملکرد، ناشی از کاهش چشمگیر نرخ منفی‌های کاذب (False Negatives) است. این بدان معناست که مدل آموزش‌دیده با NRCES توانایی بسیار بهتری در شناسایی موجودیت‌هایی دارد که در مجموعه داده آموزشی برچسب‌گذاری نشده‌اند، که دقیقاً هدف اصلی این پژوهش بود.

این پژوهش پیامدهای عملی و دستاوردهای مهمی برای جامعه پردازش زبان طبیعی به همراه دارد:

• دموکراتیزه کردن توسعه NER: با کاهش حساسیت مدل‌ها به نویز، این روش استفاده از نظارت دورادور را بسیار کارآمدتر و قابل اعتمادتر می‌کند. این امر به توسعه‌دهندگان و محققان اجازه می‌دهد تا با هزینه و زمان بسیار کمتر، مدل‌های NER با کارایی بالا برای زبان‌ها یا حوزه‌های تخصصی (مانند پزشکی، حقوقی، مالی) که فاقد داده‌های برچسب‌دار کافی هستند، ایجاد کنند.
• ساخت سیستم‌های NLP قوی‌تر: مدل‌های NER که با این روش آموزش می‌بینند، در دنیای واقعی که داده‌ها همیشه تمیز و کامل نیستند، عملکرد بهتری از خود نشان می‌دهند. این امر به نوبه خود منجر به بهبود عملکرد سیستم‌های بالادستی مانند سیستم‌های استخراج اطلاعات، چت‌بات‌های پیشرفته و دستیارهای مجازی می‌شود.
• پیشرفت در یادگیری از داده‌های نویزی: فراتر از NER، ایده اصلی پشت NRCES—یعنی طراحی توابع زیان هوشمند که می‌توانند بین سیگنال واقعی و نویز تمایز قائل شوند—می‌تواند در سایر وظایف یادگیری ماشین که با داده‌های ناقص یا برچسب‌های نویزی مواجه هستند، الهام‌بخش راهکارهای جدید باشد.

مقاله «یک تابع زیان نویز-مقاوم برای مسئله موجودیت‌های بدون برچسب در بازشناسی موجودیت‌های نام‌گذاری شده» یک گام مهم رو به جلو در حل یکی از بزرگ‌ترین موانع عملی در زمینه NER برمی‌دارد. نویسندگان با شناسایی دقیق محدودیت‌های تابع زیان آنتروپی متقاطع در مواجهه با داده‌های نویزی حاصل از نظارت دورادور، یک راهکار خلاقانه و مؤثر به نام NRCES ارائه می‌دهند.

این تابع زیان جدید با استفاده هوشمندانه از یک عبارت سیگموئید و مکانیزم متعادل‌سازی پویا، به مدل اجازه می‌دهد تا بدون فدا کردن سرعت یادگیری، در برابر برچسب‌های نادرست مقاوم باشد. نتایج تجربی قوی و دستیابی به رکوردهای جدید در مجموعه داده‌های استاندارد، کارایی این رویکرد را به اثبات می‌رساند. این پژوهش نه تنها راه را برای ساخت مدل‌های NER دقیق‌تر و کم‌هزینه‌تر هموار می‌کند، بلکه بینش‌های ارزشمندی را برای طراحی الگوریتم‌های یادگیری مقاوم در برابر نویز در حوزه‌های گسترده‌تر هوش مصنوعی فراهم می‌آورد.