استخراج رابطه (Relation Extraction) یکی از وظایف بنیادین در حوزه پردازش زبان طبیعی (NLP) است که هدف آن شناسایی و دسته‌بندی روابط معنایی بین موجودیت‌ها (Entities) در یک متن است. برای مثال، در جمله «شرکت اپل توسط استیو جابز تأسیس شد»، یک سیستم استخراج رابطه باید بتواند تشخیص دهد که بین موجودیت «اپل» و «استیو جابز» یک رابطه از نوع «بنیان‌گذار» وجود دارد. این فناوری زیربنای بسیاری از کاربردهای پیشرفته مانند موتورهای جستجوی هوشمند، سیستم‌های پرسش و پاسخ، ساخت گراف‌های دانش و تحلیل داده‌های متنی است.

با وجود پیشرفت‌های چشمگیر در این حوزه برای زبان انگلیسی، زبان فارسی به دلیل کمبود منابع داده‌ای جامع و استاندارد، با چالش‌های جدی روبرو است. مجموعه داده‌های آموزشی، سوخت اصلی مدل‌های یادگیری عمیق هستند و کمبود آن‌ها مانعی بزرگ برای توسعه مدل‌های قدرتمند فارسی محسوب می‌شود. مقاله «بهبود مدل‌های استخراج رابطه فارسی با داده‌افزایی» که در کارگاه NSURL 2021 ارائه شد، با تمرکز بر همین چالش، راهکاری نوآورانه و مؤثر برای غلبه بر مشکل کمبود داده ارائه می‌دهد. اهمیت این پژوهش در آن است که با استفاده از تکنیک‌های داده‌افزایی، راه را برای ساخت مدل‌های مقاوم‌تر و دقیق‌تر در زبان فارسی هموار می‌سازد و گامی مهم در جهت پیشرفت پردازش زبان طبیعی فارسی برمی‌دارد.

این مقاله ارزشمند توسط تیمی از پژوهشگران برجسته در حوزه پردازش زبان طبیعی فارسی به نگارش درآمده است: معین سلیمی سرتاختی، رومینا اعتضادی و مهرنوش شمس‌فرد. این پژوهش در چارچوب وظیفه اشتراکی استخراج رابطه فارسی کارگاه NSURL 2021 انجام شده است که خود نشان‌دهنده ارتباط مستقیم آن با نیازهای واقعی و چالش‌های روز جامعه علمی این حوزه است.

زمینه تحقیق این مقاله، «محاسبات و زبان» (Computation and Language) است و به طور خاص بر روی یکی از چالش‌های کلیدی زبان‌های کم‌منبع (Low-Resource Languages) مانند فارسی تمرکز دارد. در چنین زبان‌هایی، محققان به جای دسترسی به میلیون‌ها نمونه داده برچسب‌خورده، باید با مجموعه داده‌های کوچک‌تر کار کنند و از تکنیک‌های هوشمندانه برای جبران این کمبود بهره ببرند. این مقاله نمونه‌ای موفق از همین رویکرد است.

هدف اصلی این مقاله، بهبود عملکرد مدل‌های استخراج رابطه برای زبان فارسی از طریق افزایش حجم و کیفیت مجموعه داده آموزشی است. نویسندگان کار خود را بر روی تنها مجموعه داده موجود برای این وظیفه در زبان فارسی، یعنی PERLEX، آغاز می‌کنند. مجموعه داده PERLEX نسخه‌ای ترجمه‌شده توسط متخصصان از مجموعه داده معروف انگلیسی SemEval-2010 Task 8 است. با وجود ارزش بالای این مجموعه، اندازه محدود آن یک چالش اساسی برای آموزش مدل‌های عمیق و پیچیده محسوب می‌شود.

برای حل این مشکل، پژوهشگران دو راهکار اصلی را به کار می‌گیرند:

• پیش‌پردازش متن: ابتدا، داده‌های موجود در PERLEX تحت مراحل پیش‌پردازش قرار می‌گیرند تا نویزها حذف شده و متن برای تحلیل توسط مدل‌ها آماده شود.
• داده‌افزایی (Data Augmentation): سپس با استفاده از تکنیک‌های داده‌افزایی، نمونه‌های جدیدی از داده‌های موجود تولید می‌شود. این کار به مدل کمک می‌کند تا الگوهای معنایی را بهتر یاد بگیرد و قدرت تعمیم‌پذیری (Generalization) خود را بر روی داده‌های جدید و دیده‌نشده افزایش دهد.

پس از آماده‌سازی مجموعه داده افزوده شده، نویسندگان دو مدل پیشرفته مبتنی بر معماری ترنسفورمر را برای وظیفه استخراج رابطه به کار می‌گیرند: ParsBERT (نسخه تخصصی BERT برای زبان فارسی) و BERT چندزبانه. نتایج نشان می‌دهد که این رویکرد ترکیبی توانسته است به شکل قابل توجهی عملکرد مدل‌ها را بهبود بخشد.

روش‌شناسی این تحقیق به صورت نظام‌مند و مرحله‌به‌مرحله طراحی شده است تا به بهترین نتیجه ممکن دست یابد. این فرآیند شامل چهار بخش کلیدی است:

۱. مجموعه داده پایه (PERLEX):

پایه و اساس این پژوهش، مجموعه داده PERLEX است. این مجموعه شامل جملاتی است که در آن‌ها دو موجودیت مشخص شده و نوع رابطه معنایی بین آن‌ها نیز برچسب‌گذاری شده است. این روابط شامل دسته‌هایی مانند «علت و معلول» (Cause-Effect)، «ابزار-مأموریت» (Instrument-Agency)، «محتوا-ظرف» (Content-Container) و «موجودیت-منشأ» (Entity-Origin) هستند.

۲. پیش‌پردازش و داده‌افزایی:

این مرحله قلب نوآوری مقاله است. پس از یکسان‌سازی و پاک‌سازی اولیه متن، از تکنیک‌های داده‌افزایی برای افزایش حجم داده‌ها استفاده شد. داده‌افزایی در متن به معنای خلق جملات جدید و معتبر از روی جملات موجود است، به طوری که برچسب رابطه معنایی حفظ شود. روش‌های متداول در این زمینه عبارتند از:

• ترجمه معکوس (Back-Translation): ترجمه یک جمله فارسی به زبانی دیگر (مثلاً انگلیسی) و سپس بازگرداندن آن به فارسی. این فرآیند معمولاً ساختار جمله را تغییر می‌دهد در حالی که معنای اصلی را حفظ می‌کند و تنوع داده‌ها را افزایش می‌دهد.
• جایگزینی با کلمات مترادف (Synonym Replacement): جایگزین کردن برخی کلمات در جمله با مترادف‌های مناسب آن‌ها، بدون آنکه رابطه بین موجودیت‌ها تغییر کند.

این تکنیک‌ها به مدل اجازه می‌دهند تا با نمونه‌های متنوع‌تری از یک رابطه آشنا شود و در نتیجه، مقاوم‌تر عمل کند.

۳. مدل‌های زبانی مورد استفاده:

پژوهشگران از دو مدل زبانی پیشرفته مبتنی بر معماری ترنسفورمر بهره بردند:

• ParsBERT: یک مدل زبانی قدرتمند که به طور اختصاصی بر روی پیکره‌ای عظیم از متون فارسی آموزش دیده است. این تخصص باعث می‌شود درک عمیقی از ظرایف و ساختارهای زبان فارسی داشته باشد.
• BERT چندزبانه (mBERT): یک مدل واحد که بر روی داده‌هایی از بیش از ۱۰۰ زبان مختلف (از جمله فارسی) آموزش دیده است. مقایسه عملکرد این دو مدل نشان می‌دهد که آیا یک مدل تخصصی فارسی بر یک مدل عمومی چندزبانه برتری دارد یا خیر.

برای هر دو مدل، یک لایه دسته‌بند (Classifier) بر روی خروجی آن‌ها اضافه شد تا بتواند نوع رابطه بین دو موجودیت را از میان دسته‌های از پیش تعریف‌شده پیش‌بینی کند.

نتایج این پژوهش به وضوح موفقیت‌آمیز بودن رویکرد داده‌افزایی را نشان می‌دهد. عملکرد مدل‌ها با استفاده از معیار Macro-F1 سنجیده شد که میانگینی متوازن از دقت و بازخوانی در تمام دسته‌های روابط است.

• مدل برتر این تیم در فاز آزمون مسابقه NSURL 2021 موفق به کسب امتیاز Macro-F1 برابر با ۶۴.۶۷٪ شد. این نتیجه نشان‌دهنده عملکرد خوب مدل در مواجهه با داده‌های کاملاً جدید و چالشی است.
• نکته جالب‌تر اینکه، همین مدل بر روی مجموعه آزمون اصلی PERLEX (داده‌هایی که از نظر توزیع شبیه‌تر به داده‌های آموزشی بودند) به امتیاز فوق‌العاده Macro-F1 برابر با ۸۳.۶۸٪ دست یافت.

این تفاوت در نتایج، نکته مهمی را آشکار می‌سازد: داده‌افزایی نه تنها به مدل کمک کرده است تا الگوهای موجود در داده‌های آموزشی را به خوبی یاد بگیرد (که منجر به امتیاز بالای ۸۳.۶۸٪ شده)، بلکه توانایی تعمیم آن به داده‌های دیده‌نشده را نیز به شکل قابل توجهی افزایش داده است (که در امتیاز ۶۴.۶۷٪ مسابقه منعکس شده است). این یافته تأیید می‌کند که افزایش حجم داده از طریق روش‌های مصنوعی، راهکاری مؤثر برای ساخت مدل‌های مقاوم‌تر (Robust) در پردازش زبان طبیعی فارسی است. به احتمال زیاد، مدل ParsBERT به دلیل تخصص در زبان فارسی، عملکرد بهتری نسبت به mBERT داشته است.

پژوهش انجام‌شده در این مقاله فراتر از یک دستاورد آکادمیک، کاربردهای عملی گسترده‌ای دارد و دستاوردهای مهمی برای جامعه پردازش زبان طبیعی فارسی به ارمغان می‌آورد.

• بهبود موتورهای جستجو: با درک روابط بین موجودیت‌ها، موتورهای جستجو می‌توانند پاسخ‌های دقیق‌تری به کوئری‌های پیچیده کاربران بدهند. برای مثال، جستجوی «فیلم‌های کارگردانی شده توسط اصغر فرهادی» می‌تواند فهرستی دقیق از آثار او را برگرداند.
• ساخت گراف‌های دانش فارسی: گراف‌های دانش پایگاه‌های داده ساختاریافته‌ای هستند که اطلاعات جهان را در قالب موجودیت‌ها و روابط بین آن‌ها ذخیره می‌کنند. این تحقیق ابزاری قدرتمند برای استخراج خودکار این روابط از متون فارسی و غنی‌سازی گراف‌های دانش فراهم می‌کند.
• سیستم‌های پرسش و پاسخ هوشمند: سیستم‌هایی که بتوانند به سؤالات کاربران به زبان طبیعی پاسخ دهند، به شدت به درک روابط متکی هستند. این مدل‌ها می‌توانند به ساخت نسل جدیدی از دستیارهای مجازی فارسی‌زبان کمک کنند.
• ارائه یک مجموعه داده افزوده شده: این تحقیق یک مجموعه داده جدید و غنی‌شده برای استخراج رابطه فارسی تولید کرده است که می‌تواند توسط سایر پژوهشگران برای توسعه و ارزیابی مدل‌های جدید مورد استفاده قرار گیرد.

مقاله «بهبود مدل‌های استخراج رابطه فارسی با داده‌افزایی» یک پژوهش تأثیرگذار و مهم در زمینه پردازش زبان طبیعی فارسی است. این مقاله با تمرکز بر چالش بنیادین کمبود داده، نشان می‌دهد که چگونه می‌توان با استفاده هوشمندانه از تکنیک‌های داده‌افزایی، عملکرد مدل‌های پیشرفته‌ای مانند ParsBERT را به طور چشمگیری بهبود بخشید.

نویسندگان با موفقیت ثابت کردند که افزایش مصنوعی حجم داده‌های آموزشی نه تنها دقت مدل را بر روی داده‌های مشابه افزایش می‌دهد، بلکه مهم‌تر از آن، قدرت تعمیم و مقاومت آن را در برابر داده‌های جدید و متنوع بالا می‌برد. این دستاورد، راه را برای تحقیقات آینده در زبان فارسی و سایر زبان‌های کم‌منبع هموار می‌کند و نشان می‌دهد که با راهکارهای خلاقانه می‌توان بر محدودیت‌های منابع غلبه کرد و به نتایجی در سطح استانداردهای جهانی دست یافت. این پژوهش گامی محکم در جهت توسعه ابزارهای هوشمندتر و کارآمدتر برای تحلیل و درک زبان فارسی است.