در دنیای امروز، متن‌ها در اشکال مختلفی وجود دارند، از ایمیل‌های رسمی گرفته تا پیام‌های دوستانه در شبکه‌های اجتماعی. تشخیص میزان رسمیت یک متن، قابلیتی است که می‌تواند در زمینه‌های مختلف پردازش زبان طبیعی (NLP) بسیار مفید باشد. به عنوان مثال، یک سیستم پاسخگویی خودکار می‌تواند با تشخیص سطح رسمیت پرسش کاربر، پاسخی مناسب و متناسب با لحن او ارائه دهد. مقاله “تشخیص سطح رسمیت متن: بررسی رویکردهای طبقه‌بندی متن” به بررسی روش‌های مختلف برای تشخیص خودکار میزان رسمیت یک متن می‌پردازد و رویکردهای گوناگون یادگیری ماشین را مورد ارزیابی قرار می‌دهد.

این مقاله توسط دارینا دمنتیوا، نیکلای باباکوف و الکساندر پانچنکو نوشته شده است. نویسندگان این مقاله متخصصان حوزه پردازش زبان طبیعی و یادگیری ماشین هستند و تجربیات زیادی در زمینه طبقه‌بندی متن و تحلیل سبک زبانی دارند. زمینه اصلی تحقیق آن‌ها، تمرکز بر روی ارتقای درک ماشین از ویژگی‌های زبانی ظریف مانند میزان رسمیت و سبک نوشتاری است.

این مقاله به بررسی سیستماتیک روش‌های تشخیص رسمیت متن می‌پردازد. تاکنون، مجموعه‌داده‌های بزرگی مانند GYAFC و X-FORMAL برای زبان‌های مختلف به منظور آموزش مدل‌های انتقال سبک زبانی ارائه شده‌اند. اما تمرکز اصلی این مجموعه‌داده‌ها بر روی انتقال سبک بوده است، نه تشخیص خود رسمیت متن. این مقاله به طور خاص بر روی تشخیص رسمیت متن تمرکز دارد و رویکردهای مختلف یادگیری ماشین، از جمله روش‌های آماری، شبکه‌های عصبی و مدل‌های مبتنی بر ترنسفورمر را مورد بررسی و مقایسه قرار می‌دهد.

این تحقیق، سه نوع آزمایش را انجام داده است:

• تک‌زبانه: در این آزمایش، مدل‌ها با استفاده از داده‌های یک زبان آموزش داده شده و بر روی همان زبان ارزیابی می‌شوند.
• چندزبانه: در این آزمایش، مدل‌ها با استفاده از داده‌های چندین زبان آموزش داده شده و هدف، ایجاد یک مدل کلی است که می‌تواند رسمیت متن را در زبان‌های مختلف تشخیص دهد.
• چندزبانه متقاطع: در این آزمایش، مدل‌ها با استفاده از داده‌های یک یا چند زبان آموزش داده شده و بر روی زبان دیگری ارزیابی می‌شوند. هدف، بررسی قابلیت انتقال دانش از یک زبان به زبان دیگر است.

در این تحقیق، از روش‌های مختلف یادگیری ماشین برای تشخیص رسمیت متن استفاده شده است. این روش‌ها را می‌توان به سه دسته اصلی تقسیم کرد:

• روش‌های آماری: این روش‌ها از ویژگی‌های آماری متن، مانند فراوانی کلمات، طول جملات و ساختار دستوری، برای تشخیص رسمیت استفاده می‌کنند. به عنوان مثال، استفاده از کلمات رسمی‌تر و ساختارهای پیچیده‌تر دستوری می‌تواند نشان‌دهنده یک متن رسمی‌تر باشد.
• شبکه‌های عصبی: این روش‌ها از شبکه‌های عصبی، به ویژه شبکه‌های عصبی بازگشتی (RNN) و شبکه‌های عصبی پیچشی (CNN)، برای یادگیری الگوهای پیچیده در متن استفاده می‌کنند. یکی از مدل‌های مورد استفاده در این تحقیق، مدل Char BiLSTM است که با استفاده از ویژگی‌های کاراکتری متن، می‌تواند رسمیت آن را تشخیص دهد.
• مدل‌های مبتنی بر ترنسفورمر: این روش‌ها از مدل‌های ترنسفورمر، مانند BERT و RoBERTa، برای درک بهتر معنای متن و تشخیص رسمیت آن استفاده می‌کنند. مدل‌های ترنسفورمر، به دلیل قابلیت درک وابستگی‌های دوربرد در متن، معمولاً عملکرد بهتری نسبت به روش‌های دیگر دارند.

برای آموزش و ارزیابی مدل‌ها، از مجموعه‌داده‌های GYAFC و X-FORMAL استفاده شده است. این مجموعه‌داده‌ها شامل متن‌هایی با سطوح مختلف رسمیت هستند که به صورت دستی برچسب‌گذاری شده‌اند.

یافته‌های این تحقیق نشان می‌دهد که مدل Char BiLSTM، در طبقه‌بندی رسمیت متن به صورت تک‌زبانه و چندزبانه، عملکرد بهتری نسبت به مدل‌های مبتنی بر ترنسفورمر دارد. این ممکن است به این دلیل باشد که مدل Char BiLSTM، به خوبی می‌تواند الگوهای کاراکتری را در متن یاد بگیرد که با سطح رسمیت مرتبط هستند. به عنوان مثال، استفاده از کلمات اختصاری و محاوره‌ای می‌تواند نشان‌دهنده یک متن غیررسمی باشد، در حالی که استفاده از املای صحیح و کامل کلمات، نشان‌دهنده یک متن رسمی‌تر است.

در مقابل، مدل‌های مبتنی بر ترنسفورمر، در انتقال دانش از یک زبان به زبان دیگر، عملکرد پایدارتری دارند. این بدان معناست که اگر یک مدل ترنسفورمر با استفاده از داده‌های یک زبان آموزش داده شود، می‌تواند با دقت قابل قبولی، رسمیت متن را در زبان دیگری نیز تشخیص دهد. این ویژگی، مدل‌های ترنسفورمر را برای کاربردهایی که داده‌های کافی برای آموزش در همه زبان‌ها وجود ندارد، بسیار ارزشمند می‌کند.

به طور خلاصه، نتایج نشان داد که انتخاب مدل مناسب بستگی به نوع کاربرد و داده‌های موجود دارد. برای کاربردهایی که داده‌های کافی در یک زبان خاص وجود دارد، مدل Char BiLSTM می‌تواند گزینه مناسب‌تری باشد. اما برای کاربردهایی که نیاز به انتقال دانش بین زبان‌ها وجود دارد، مدل‌های ترنسفورمر انتخاب بهتری هستند.

این تحقیق، دستاوردهای مهمی در زمینه تشخیص خودکار رسمیت متن ارائه می‌دهد. از جمله کاربردهای این دستاوردها می‌توان به موارد زیر اشاره کرد:

• سیستم‌های پاسخگویی خودکار: با تشخیص سطح رسمیت پرسش کاربر، می‌توان پاسخی مناسب و متناسب با لحن او ارائه داد. برای مثال، اگر کاربر در یک ایمیل رسمی سوالی را مطرح کند، سیستم می‌تواند با لحنی رسمی و محترمانه پاسخ دهد.
• ویرایشگرهای متن: می‌توان از این قابلیت در ویرایشگرهای متن برای ارائه پیشنهادهایی برای بهبود رسمیت متن استفاده کرد. به عنوان مثال، ویرایشگر می‌تواند کلمات غیررسمی را شناسایی کرده و معادل‌های رسمی‌تری را پیشنهاد دهد.
• تحلیل شبکه‌های اجتماعی: با تحلیل رسمیت متن در شبکه‌های اجتماعی، می‌توان الگوهای رفتاری کاربران را شناسایی کرد و درک بهتری از تعاملات آنلاین به دست آورد.
• ترجمه ماشینی: با در نظر گرفتن سطح رسمیت متن مبدأ، می‌توان ترجمه‌ای دقیق‌تر و متناسب با لحن متن ارائه داد.

علاوه بر این، این تحقیق، مدل‌های با عملکرد بالا را برای استفاده عمومی در اختیار محققان و توسعه‌دهندگان قرار داده است. این امر می‌تواند به پیشرفت تحقیقات در این زمینه و توسعه کاربردهای جدیدتر کمک کند.

مقاله “تشخیص سطح رسمیت متن: بررسی رویکردهای طبقه‌بندی متن” یک مطالعه جامع و ارزشمند در زمینه تشخیص خودکار رسمیت متن است. این تحقیق، رویکردهای مختلف یادگیری ماشین را مورد بررسی قرار داده و مدل‌های با عملکرد بالا را برای استفاده عمومی ارائه کرده است. یافته‌های این تحقیق، می‌تواند در زمینه‌های مختلف پردازش زبان طبیعی، از جمله سیستم‌های پاسخگویی خودکار، ویرایشگرهای متن، تحلیل شبکه‌های اجتماعی و ترجمه ماشینی، کاربردهای فراوانی داشته باشد. همچنین، بررسی نقاط قوت و ضعف هر یک از مدل‌ها، راهنمایی مفیدی برای انتخاب مدل مناسب برای کاربردهای مختلف ارائه می‌دهد. به طور کلی، این مقاله گامی مهم در جهت توسعه سیستم‌های هوشمندتر و سازگارتر با نیازهای کاربران است.