۱. مقدمه: اهمیت استخراج اصطلاحات خودکار

استخراج اصطلاحات خودکار (Automatic Term Extraction – ATE) یکی از پایه‌های اساسی در پردازش زبان طبیعی (NLP) و درک زبان تخصصی حوزه‌های مختلف است. این فرآیند به شناسایی و استخراج واژگان و عبارات کلیدی که مفاهیم اصلی یک متن تخصصی را نمایندگی می‌کنند، می‌پردازد. اصطلاحات، ستون فقرات دانش تخصصی در هر رشته‌ای محسوب می‌شوند و نقش حیاتی در ارتباطات علمی، پژوهشی و تجاری ایفا می‌کنند. توانایی خودکارسازی این فرآیند، سرعت و دقت دستیابی به واژگان تخصصی را به طور چشمگیری افزایش می‌دهد و زمینه‌ساز کاربردهای متعددی در زمینه‌هایی نظیر ساخت پایگاه‌های داده اصطلاحات، بهبود سیستم‌های پرس‌وجو، ترجمه ماشینی تخصصی، و خلاصه‌سازی متون علمی می‌شود.

با ظهور مدل‌های زبانی بزرگ مبتنی بر معماری ترانسفورمر (Transformer)، شاهد جهش‌های قابل توجهی در توانایی ماشین‌ها برای درک و پردازش زبان انسان بوده‌ایم. این مدل‌ها، با قابلیت یادگیری بازنمایی‌های غنی از متن، پتانسیل بالایی برای بهبود وظایف NLP از جمله ATE از خود نشان داده‌اند. با این حال، چالش استخراج اصطلاحات در سناریوهای بین‌حوزه‌ای (cross-domain) و چندزبانه (multi-language)، که در آن مدل‌ها باید با دایره واژگان و مفاهیم ناآشنا در دامنه‌های جدید یا زبان‌های متفاوت مواجه شوند، همچنان یک حوزه فعال تحقیقاتی است.

مقاله پیش رو با عنوان «Ensembling Transformers for Cross-domain Automatic Term Extraction» به این چالش مهم پرداخته و رویکردی نوآورانه را برای غلبه بر محدودیت‌های مدل‌های تک‌زبانه و تک‌حوزه‌ای در استخراج اصطلاحات ارائه می‌دهد.

۲. نویسندگان و زمینه تحقیق

این پژوهش توسط تیمی از محققان شامل Hanh Thi Hong Tran، Matej Martinc، Andraz Pelicon، Antoine Doucet و Senja Pollak انجام شده است. نویسندگان با تخصص در حوزه‌های محاسبات و زبان (Computation and Language) و بازیابی اطلاعات (Information Retrieval)، تجربه‌ای عمیق در به کارگیری تکنیک‌های یادگیری ماشین و پردازش زبان طبیعی برای حل مسائل پیچیده دارند. زمینه تحقیق این مقاله، پردازش زبان طبیعی تخصصی، با تمرکز ویژه بر استخراج اصطلاحات در ابعاد چندزبانه و بین‌حوزه‌ای است. این تحقیق در راستای پیشبرد درک ماشین از زبان تخصصی و کاربردهای عملی آن در دنیای واقعی صورت گرفته است.

۳. چکیده و خلاصه محتوا

چکیده مقاله به طور خلاصه به هسته اصلی پژوهش اشاره دارد: بررسی قدرت پیش‌بینی مدل‌های از پیش آموزش‌دیده مبتنی بر ترانسفورمر برای استخراج اصطلاحات در سناریوهای چندزبانه و بین‌حوزه‌ای. نویسندگان نه تنها توانایی مدل‌های تک‌زبانه را برای استخراج اصطلاحات تک‌کلمه‌ای و چندکلمه‌ای ارزیابی می‌کنند، بلکه رویکردهای ترکیب (ensembling) مدل‌های تک‌زبانه و چندزبانه را نیز با استفاده از عملیات اجتماع (union) یا اشتراک (intersection) بر روی مجموعه‌های اصطلاحات خروجی، مورد آزمایش قرار می‌دهند.

این تحقیق بر روی دو مجموعه داده اصلی انجام شده است:

• مجموعه داده ACTER: شامل چهار حوزه تخصصی (فساد، انرژی بادی، اسب‌سواری، و نارسایی قلبی) و سه زبان (انگلیسی، فرانسوی، و هلندی).
• مجموعه داده RSDO5: شامل چهار حوزه تخصصی دیگر (بیومکانیک، شیمی، دامپزشکی، و زبان‌شناسی) در زبان اسلوونیایی.

نتایج این مطالعات نشان می‌دهد که استراتژی استفاده از مدل‌های تک‌زبانه، در اکثر موارد، رویکردهای پیشرفته‌ای را که از مدل‌های چندزبانه استفاده می‌کنند، در استخراج اصطلاحات (به استثنای استخراج موجودیت‌های نام‌گذاری شده در زبان‌های هلندی و فرانسوی) پشت سر می‌گذارد. علاوه بر این، ترکیب خروجی دو مدل برتر، بهبود قابل توجهی را به ارمغان می‌آورد.

۴. روش‌شناسی تحقیق

روش‌شناسی به کار رفته در این پژوهش شامل چندین گام کلیدی است که برای ارزیابی جامع عملکرد مدل‌های ترانسفورمر در استخراج اصطلاحات طراحی شده است:

• استفاده از مدل‌های ترانسفورمر: تمرکز اصلی بر مدل‌های زبانی از پیش آموزش‌دیده مبتنی بر معماری ترانسفورمر است. این مدل‌ها به دلیل توانایی‌شان در درک متون و استخراج ویژگی‌های معنایی و نحوی، برای وظایف پردازش زبان طبیعی بسیار مناسب هستند.
• ارزیابی مدل‌های تک‌زبانه: مدل‌های ترانسفورمر که به طور خاص بر روی داده‌های یک زبان آموزش دیده‌اند، برای استخراج اصطلاحات در همان زبان ارزیابی می‌شوند. این مرحله شامل بررسی قابلیت مدل در شناسایی اصطلاحات تک‌کلمه‌ای (مانند “thermodynamics”) و اصطلاحات چندکلمه‌ای (مانند “artificial neural network”) است.
• ارزیابی مدل‌های چندزبانه: مدل‌های زبانی که توانایی پردازش چندین زبان را دارند، نیز در این تحقیق مورد استفاده قرار می‌گیرند تا عملکردشان در استخراج اصطلاحات در دامنه‌های مختلف و زبان‌های گوناگون سنجیده شود.
• استراتژی‌های Ensembling: یکی از نوآوری‌های اصلی این تحقیق، به کارگیری روش‌های ترکیب خروجی مدل‌های مختلف است. این ترکیب می‌تواند به دو صورت انجام شود:
  • اجتماع (Union): در این روش، مجموعه نهایی اصطلاحات استخراج شده، شامل تمام اصطلاحاتی است که توسط حداقل یکی از مدل‌های ترکیب شده شناسایی شده‌اند. این رویکرد تمایل دارد تا پوشش بیشتری داشته باشد.
  • اشتراک (Intersection): در این روش، تنها اصطلاحاتی در مجموعه نهایی قرار می‌گیرند که توسط تمام مدل‌های ترکیب شده شناسایی شده باشند. این رویکرد تمرکز بیشتری بر دقت دارد.
• مجموعه داده‌های مورد استفاده:
  • مجموعه داده ACTER: این مجموعه داده، به دلیل پوشش دامنه‌های تخصصی متنوع (فساد، انرژی بادی، اسب‌سواری، نارسایی قلبی) و زبان‌های مختلف (انگلیسی، فرانسوی، هلندی)، بستر مناسبی برای ارزیابی قابلیت تعمیم مدل‌ها در سناریوهای بین‌حوزه‌ای و چندزبانه فراهم می‌کند.
  • مجموعه داده RSDO5: این مجموعه داده اسلوونیایی، با افزودن دامنه‌های تخصصی دیگر (بیومکانیک، شیمی، دامپزشکی، زبان‌شناسی)، دامنه ارزیابی را گسترش داده و اطمینان از صحت نتایج را افزایش می‌دهد.
• معیارهای ارزیابی: برای سنجش عملکرد مدل‌ها، از معیارهای استاندارد استخراج اصطلاحات مانند دقت (Precision)، بازیابی (Recall) و معیار F1 استفاده می‌شود.

۵. یافته‌های کلیدی

یافته‌های این پژوهش بینش‌های ارزشمندی را در مورد توانایی مدل‌های ترانسفورمر در استخراج اصطلاحات خودکار ارائه می‌دهند:

• برتری مدل‌های تک‌زبانه: نتایج نشان می‌دهند که در اکثر موارد، استفاده از مدل‌های ترانسفورمر که به طور اختصاصی برای یک زبان آموزش دیده‌اند، عملکرد بهتری نسبت به مدل‌های چندزبانه در استخراج اصطلاحات از خود نشان می‌دهد. این یافته به ویژه در دامنه‌های تخصصی که واژگان خاص و منحصر به فردی دارند، اهمیت پیدا می‌کند.
• عملکرد قوی در مقابل SOTA: مدل‌های تک‌زبانه در این تحقیق، موفق شدند تا رویکردهای پیشرفته‌ای (state-of-the-art – SOTA) را که از مدل‌های چندزبانه استفاده می‌کردند، در استخراج اصطلاحات، شکست دهند. این یک دستاورد قابل توجه است، زیرا مدل‌های چندزبانه معمولاً به عنوان راه حل قوی برای وظایف چندزبانه در نظر گرفته می‌شوند.
• استثنائات در هلندی و فرانسوی: این برتری مدل‌های تک‌زبانه، تنها در زبان‌های هلندی و فرانسوی (در صورتی که استخراج موجودیت‌های نام‌گذاری شده از مسئله حذف شود) مشاهده نشده است. این ممکن است به دلیل ویژگی‌های خاص این زبان‌ها یا مجموعه داده‌های مورد استفاده باشد که نیاز به بررسی بیشتر دارد.
• مزایای Ensembling: ترکیب خروجی بهترین مدل‌ها، به خصوص با استفاده از استراتژی اجتماع (Union)، منجر به بهبود قابل توجهی در عملکرد نهایی شده است. این نشان می‌دهد که ترکیب خروجی مدل‌های مختلف می‌تواند نقاط قوت آن‌ها را پوشش داده و نقاط ضعفشان را جبران کند، که در نهایت منجر به نتیجه دقیق‌تر و جامع‌تری می‌شود.
• اهمیت حذف موجودیت‌های نام‌گذاری شده: پژوهش نشان می‌دهد که حذف موجودیت‌های نام‌گذاری شده (Named Entities) از مجموعه اصطلاحات استخراجی، می‌تواند بر مقایسه عملکرد مدل‌های تک‌زبانه و چندزبانه تاثیرگذار باشد. این نکته حائز اهمیت است زیرا تعریف “اصطلاح” می‌تواند شامل یا شامل موجودیت‌های نام‌گذاری شده باشد و این موضوع بر معیارهای ارزیابی و نتایج تاثیر می‌گذارد.

۶. کاربردها و دستاوردها

دستاوردها و یافته‌های این تحقیق کاربردهای عملی گسترده‌ای در دنیای واقعی دارند:

• بهبود سیستم‌های جستجو و بازیابی اطلاعات: با استخراج دقیق‌تر اصطلاحات تخصصی، سیستم‌های جستجو می‌توانند نتایج مرتبط‌تری را به کاربران ارائه دهند، به خصوص در جستجوهای تخصصی و علمی.
• توسعه پایگاه‌های داده اصطلاحات: این تحقیق می‌تواند به طور خودکار پایگاه‌های داده اصطلاحات را برای حوزه‌های مختلف و زبان‌های گوناگون ایجاد و به‌روزرسانی کند، که ابزار ارزشمندی برای متخصصان، مترجمان و زبان‌شناسان است.
• کمک به ترجمه ماشینی تخصصی: استخراج اصطلاحات کلیدی در متن مبدأ، به ابزارهای ترجمه ماشینی کمک می‌کند تا ترجمه‌های دقیق‌تر و تخصصی‌تری را تولید کنند.
• تسهیل خلاصه‌سازی متون تخصصی: با شناسایی مفاهیم اصلی از طریق اصطلاحات، سیستم‌های خلاصه‌سازی می‌توانند خلاصه‌های مفیدتر و جامع‌تری از متون علمی و فنی ارائه دهند.
• پردازش داده‌های چندزبانه و بین‌حوزه‌ای: این تحقیق راهکاری عملی برای مواجهه با چالش‌های پردازش زبان در سناریوهای پیچیده چندزبانه و بین‌حوزه‌ای ارائه می‌دهد.
• کاهش هزینه‌ها و زمان: خودکارسازی فرآیند استخراج اصطلاحات، به طور قابل توجهی زمان و هزینه‌های مرتبط با دسته‌بندی و تحلیل متون تخصصی را کاهش می‌دهد.

۷. نتیجه‌گیری

مقاله «Ensembling Transformers for Cross-domain Automatic Term Extraction» یک گام مهم در جهت ارتقاء قابلیت‌های استخراج اصطلاحات خودکار، به ویژه در سناریوهای چالش‌برانگیز چندزبانه و بین‌حوزه‌ای، برمی‌دارد. این پژوهش نشان می‌دهد که مدل‌های ترانسفورمر، به خصوص مدل‌های تک‌زبانه، پتانسیل بالایی برای دستیابی به نتایج دقیق و قابل قبول دارند.

یافته اصلی مبنی بر برتری مدل‌های تک‌زبانه در بسیاری از موارد، دیدگاه متداولی را که مدل‌های چندزبانه همواره برای وظایف چندزبانه برتری دارند، به چالش می‌کشد. این امر بر اهمیت بهینه‌سازی مدل‌ها برای زبان و حوزه خاص تمرکز دارد.

علاوه بر این، اثربخشی استراتژی‌های ترکیب (ensembling) خروجی مدل‌ها، بر اهمیت رویکردهای جمعی در حل مسائل پیچیده NLP تأکید می‌کند. ترکیب هوشمندانه مدل‌های مختلف می‌تواند به طور قابل توجهی دقت و جامعیت نتایج را افزایش دهد.

این تحقیق چارچوبی عملی و اثبات‌شده برای استخراج اصطلاحات ارائه می‌دهد که می‌تواند به طور مستقیم در توسعه سیستم‌های پیشرفته پردازش زبان طبیعی در حوزه‌های تخصصی و چندزبانه مورد استفاده قرار گیرد.