پردازش زبان طبیعی (NLP) به عنوان یکی از شاخه‌های پرکاربرد هوش مصنوعی، همواره با چالش‌های منحصر به فردی در زبان‌های مختلف روبرو بوده است. زبان چینی، به دلیل نداشتن مرز مشخص بین کلمات (مانند فاصله در زبان‌های لاتین یا فارسی)، دو وظیفه بنیادین را پیش روی محققان قرار داده است: واژه‌بندی (Word Segmentation) و برچسب‌زنی نقش دستوری (Part-of-Speech Tagging). واژه‌بندی به فرآیند تقسیم یک رشته از کاراکترها به واحدهای معنادار (کلمات) اطلاق می‌شود و برچسب‌زنی نقش دستوری، وظیفه تعیین نقش هر کلمه (اسم، فعل، صفت و غیره) در جمله را بر عهده دارد. دقت در این دو مرحله، تأثیر مستقیمی بر عملکرد سیستم‌های پیشرفته‌تری مانند ترجمه ماشینی، تحلیل احساسات، و موتورهای جستجو دارد.

مقاله “واژه‌بندی و برچسب‌زنی نقش دستوری چینی به صورت همزمان با استفاده از برچسب‌زنی گستره دومرحله‌ای” که توسط تیمی از محققان برجسته ارائه شده است، یک راهکار نوین برای حل همزمان این دو مسئله ارائه می‌دهد. اهمیت این مقاله در آن است که از رویکردهای سنتی مبتنی بر برچسب‌زنی کاراکتر به کاراکتر فاصله گرفته و یک معماری جدید مبتنی بر برچسب‌زنی گستره (Span Labeling) را معرفی می‌کند. این رویکرد نه تنها به طور موثرتری با ابهامات زبانی و کلمات خارج از واژگان (OOV) مقابله می‌کند، بلکه با بهره‌گیری از مدل‌های زبانی پیشرفته مانند BERT، به نتایجی دست می‌یابد که در برخی از پایگاه داده‌های معیار، از پیشرفته‌ترین روش‌های موجود نیز بهتر عمل می‌کند.

این مقاله حاصل تلاش مشترک تیمی از پژوهشگران حوزه زبان‌شناسی محاسباتی و پردازش زبان طبیعی است: دوک-وو نگوین، لینه-بائو وو، نگوک-لینه تران، کیت وان نگوین و نگان لو-توی نگوین. این پژوهش در بستر تحولات اخیر در حوزه یادگیری عمیق انجام شده است. در حالی که مدل‌های عظیمی مانند BERT توانسته‌اند بسیاری از وظایف NLP را با دقت بالایی انجام دهند، برخی محققان این سؤال را مطرح کرده‌اند که آیا وظایف پایه‌ای مانند واژه‌بندی و برچسب‌زنی نقش دستوری همچنان ضروری هستند یا خیر.

این مقاله پاسخی قاطع به این پرسش می‌دهد. نویسندگان استدلال می‌کنند که علی‌رغم قدرت مدل‌های مدرن، چالش‌هایی مانند رفع ابهام و شناسایی کلمات جدید همچنان پابرجا هستند. برای مثال، یک توالی کاراکتر ممکن است به چندین شکل مختلف واژه‌بندی شود که هر کدام معنای متفاوتی دارند. این پژوهش نشان می‌دهد که با طراحی یک معماری هوشمندانه که به طور خاص برای این وظایف بهینه شده است، می‌توان به پیشرفت‌های چشمگیری دست یافت.

پژوهش حاضر یک مدل عصبی جدید با نام SpanSegTag را برای انجام همزمان واژه‌بندی و برچسب‌زنی نقش دستوری در زبان چینی معرفی می‌کند. برخلاف کارهای پیشین که عمدتاً از مدل‌های برچسب‌زنی مبتنی بر کاراکتر استفاده می‌کردند و بر روی مدل‌سازی ویژگی‌های n-gram متمرکز بودند، این مقاله رویکردی متفاوت را در پیش می‌گیرد.

ایده اصلی این مدل، فرموله کردن مسئله به عنوان یک وظیفه “برچسب‌زنی گستره” است. در این چارچوب، به جای تصمیم‌گیری برای هر کاراکتر به صورت جداگانه، مدل تمام زیررشته‌های متوالی از کاراکترها (که “گستره” یا “span” نامیده می‌شوند) را در نظر می‌گیرد و احتمال اینکه هر گستره یک کلمه معتبر با یک نقش دستوری خاص باشد را محاسبه می‌کند. برای مدل‌سازی این گستره‌ها، نویسندگان از یک عملیات بیافین (Biaffine Operation) بر روی نمایش‌های برداری مرزهای چپ و راست هر گستره استفاده می‌کنند. این عملیات به مدل اجازه می‌دهد تا تعاملات پیچیده بین کاراکترهای ابتدایی و انتهایی یک کلمه بالقوه را به طور مؤثری ثبت کند. نتایج آزمایش‌ها نشان می‌دهد که مدل SpanSegTag، به ویژه در نسخه مبتنی بر BERT، عملکردی رقابتی و در برخی موارد بهبودهای قابل توجهی نسبت به پیشرفته‌ترین روش‌های حال حاضر بر روی مجموعه‌داده‌های استاندارد CTB5، CTB6، CTB7، CTB9 و UD داشته است.

معماری مدل SpanSegTag از چند جزء کلیدی تشکیل شده است که آن را از روش‌های قبلی متمایز می‌کند. درک این اجزا برای فهم نوآوری مقاله ضروری است.

• گذار از برچسب‌زنی کاراکتری به برچسب‌زنی گستره:
  در روش‌های سنتی (مانند BIO)، هر کاراکتر یک برچسب دریافت می‌کند (مثلاً B برای شروع کلمه، I برای داخل کلمه، O برای خارج از کلمه). این روش‌ها می‌توانند در مواجهه با وابستگی‌های دوربرد دچار مشکل شوند. اما در رویکرد گستره‌محور، مدل به تمام زیررشته‌های ممکن نگاه می‌کند. برای مثال در جمله «دانشگاه تهران»، گستره‌هایی مانند «دانشگاه»، «تهران»، «دانشگاه تهران» و حتی گستره‌های بی‌معنی مانند «شگاه تهر» همگی ارزیابی می‌شوند.
• معماری دومرحله‌ای:
  فرآیند در مدل SpanSegTag به دو مرحله تقسیم می‌شود:
  1. مرحله اول (واژه‌بندی): در این مرحله، مدل برای هر گستره ممکن (از کاراکتر i تا j) یک امتیاز محاسبه می‌کند که نشان‌دهنده احتمال کلمه بودن آن است. گستره‌هایی که امتیاز بالایی کسب کنند به عنوان کلمات کاندید در نظر گرفته می‌شوند.
  2. مرحله دوم (برچسب‌زنی نقش دستوری): برای هر گستره‌ای که در مرحله قبل به عنوان یک کلمه معتبر شناسایی شده است، مدل یک برچسب نقش دستوری (مانند اسم، فعل، صفت) اختصاص می‌دهد.
• انکودر (Encoder) قدرتمند:
  برای به دست آوردن نمایش‌های برداری غنی و وابسته به متن برای هر کاراکتر، مدل از انکودرهای از پیش آموزش‌دیده مانند BERT یا ZEN (یک نسخه چینی از BERT) استفاده می‌کند. این انکودرها به مدل کمک می‌کنند تا معنای کاراکترها را در بافت جمله درک کند.
• عملیات بیافین (Biaffine Operation):
  این بخش، قلب نوآوری فنی مقاله است. پس از آنکه انکودر نمایش برداری هر کاراکتر را تولید کرد، برای نمایش یک گستره از کاراکتر i تا j، مدل از بردارهای مربوط به این دو کاراکتر مرزی استفاده می‌کند. عملیات بیافین یک لایه شبکه عصبی است که این دو بردار (نمایش مرز چپ و راست) را به عنوان ورودی دریافت کرده و یک امتیاز خروجی تولید می‌کند. این امتیاز نشان می‌دهد که چقدر این دو مرز با یکدیگر برای تشکیل یک واحد معنادار (کلمه) سازگار هستند. این روش بسیار کارآمدتر از الحاق ساده بردارها یا ضرب داخلی است.

آزمایش‌های انجام‌شده بر روی پنج مجموعه داده استاندارد در حوزه واژه‌بندی و برچسب‌زنی چینی، موفقیت چشمگیر رویکرد پیشنهادی را تأیید می‌کند.

• عملکرد پیشرفته (State-of-the-Art): مدل SpanSegTag مبتنی بر BERT توانست در مجموعه داده‌های CTB7 و CTB9 به بهبودهای قابل توجهی دست یابد و رکوردهای جدیدی را ثبت کند. این موضوع نشان می‌دهد که معماری گستره‌محور در مقابله با داده‌های پیچیده‌تر و جدیدتر بسیار مؤثر است.
• عملکرد رقابتی: در سایر مجموعه داده‌ها مانند CTB5، CTB6 و UD، مدل عملکردی بسیار نزدیک و رقابتی با بهترین روش‌های موجود از خود نشان داد. این پایداری عملکرد در دیتاست‌های مختلف، قابلیت اطمینان مدل را افزایش می‌دهد.
• برتری معماری: یکی از مهم‌ترین یافته‌ها این است که برتری SpanSegTag صرفاً به دلیل استفاده از انکودر قدرتمند BERT نیست. با مقایسه نتایج با سایر مدل‌هایی که آن‌ها نیز از BERT استفاده می‌کنند، مشخص می‌شود که نوآوری اصلی در معماری برچسب‌زنی گستره و استفاده از مکانیزم بیافین نهفته است.
• توانایی در حل ابهامات: رویکرد گستره‌محور به طور ذاتی در مدیریت کلمات چندبخشی و رفع ابهامات ساختاری بهتر عمل می‌کند. این مدل می‌تواند با ارزیابی کلی یک گستره، تصمیمات بهتری نسبت به مدل‌های کاراکترمحور بگیرد که به صورت محلی و گام به گام تصمیم‌گیری می‌کنند.

دستاوردها و کاربردهای این پژوهش را می‌توان در دو سطح علمی و عملی بررسی کرد.

کاربردهای عملی:
دقت بالاتر در واژه‌بندی و برچسب‌زنی نقش دستوری به طور مستقیم به بهبود عملکرد سیستم‌های کاربردی NLP منجر می‌شود:

• موتورهای جستجو: درک دقیق‌تر کوئری‌های کاربران چینی و ارائه نتایج مرتبط‌تر.
• ترجمه ماشینی: تجزیه صحیح ساختار جمله مبدأ برای تولید ترجمه‌ای روان و دقیق در زبان مقصد.
• سیستم‌های گفتگو (Chatbots): فهم بهتر منظور کاربران و ارائه پاسخ‌های مناسب‌تر.
• تحلیل احساسات و استخراج اطلاعات: شناسایی دقیق موجودیت‌ها و روابط بین آن‌ها در متون خبری، نظرات کاربران و شبکه‌های اجتماعی.

دستاوردهای علمی:

• معرفی یک چارچوب جدید و کارآمد (span-based) برای وظایف مشترک برچسب‌زنی دنباله.
• اثبات اثربخشی مکانیزم بیافین برای مدل‌سازی تعاملات بین مرزهای گستره‌ها، که می‌تواند در سایر وظایف NLP نیز الهام‌بخش باشد.
• ایجاد یک معیار جدید و بالاتر برای دقت در چندین مجموعه داده استاندارد و به چالش کشیدن جامعه علمی برای توسعه روش‌های بهتر.

مقاله “واژه‌بندی و برچسب‌زنی نقش دستوری چینی به صورت همزمان با استفاده از برچسب‌زنی گستره دومرحله‌ای” یک گام مهم رو به جلو در حل یکی از قدیمی‌ترین و بنیادی‌ترین چالش‌های پردازش زبان چینی است. نویسندگان با معرفی مدل SpanSegTag، نشان دادند که فاصله گرفتن از پارادایم‌های سنتی برچسب‌زنی کاراکترمحور و حرکت به سمت مدل‌سازی گستره‌ها می‌تواند به نتایج بسیار بهتری منجر شود.

این پژوهش با ترکیب یک معماری هوشمندانه (برچسب‌زنی گستره و عملیات بیافین) با قدرت مدل‌های زبانی مدرن (BERT)، راهکاری ارائه داده است که هم از نظر تئوری زیبا و هم از نظر عملی بسیار کارآمد است. موفقیت این مدل در دیتاست‌های چالش‌برانگیز، نشان‌دهنده پتانسیل بالای این رویکرد برای استفاده در سایر زبان‌ها و وظایف مشابهی مانند شناسایی موجودیت‌های نام‌دار (NER) و تحلیل نحوی است. این کار نه تنها یک راه حل مهندسی‌شده برای یک مشکل خاص است، بلکه افق‌های جدیدی را برای تحقیقات آینده در حوزه مدل‌سازی ساختارهای زبانی باز می‌کند.