فناوری حقوقی (Legal Tech) به سرعت در حال تحول است و نقش پردازش زبان طبیعی (NLP) در این حوزه روز به روز پررنگ‌تر می‌شود. از تحلیل مستندات حقوقی و پیش‌بینی نتایج پرونده‌ها گرفته تا تسهیل دسترسی به اطلاعات قانونی، NLP پتانسیل ایجاد تحولات اساسی در این صنعت را دارد. این مقاله به بررسی و مقایسه‌ی عملکرد ابزارهای مختلف NLP در زمینه‌ی حقوقی می‌پردازد و با ارائه یافته‌های خود، به متخصصان این حوزه در انتخاب و استفاده‌ی بهینه از این ابزارها کمک می‌کند.

این مقاله توسط محمد زوهیب خان به رشته تحریر درآمده است. زمینه‌ی اصلی تحقیق ایشان، حوزه‌های محاسبات و زبان و یادگیری ماشین است. این پیش‌زمینه‌ی علمی، به نویسنده امکان می‌دهد تا با دیدگاهی جامع و تخصصی به بررسی چالش‌ها و فرصت‌های استفاده از NLP در فناوری حقوقی بپردازد.

با پیشرفت‌های اخیر در پردازش زبان طبیعی، مدل‌های زبانی عصبی پیشرفته‌ای معرفی شده‌اند که با استفاده از یادگیری انتقالی غیرنظارتی و اهداف پیش‌آموزشی مختلف، عملکرد بسیار خوبی در وظایف NLP از خود نشان می‌دهند. در حالی که این مدل‌ها نتایج بسیار خوبی در وظایف NLP ارائه می‌دهند، تکنیک‌های انطباق دامنه‌ای مختلف می‌توانند عملکرد آن‌ها را در وظایف خاص حوزه‌ای بهبود بخشند. در این مقاله، مدل‌های زبانی عصبی از پیش آموزش‌دیده، XLNet (خودرگرسیو) و BERT (خودرمزگذار) در وظایف حقوقی مقایسه و تحلیل می‌شوند. نتایج نشان می‌دهند که مدل XLNet در وظیفه طبقه‌بندی متوالی نظرات حقوقی عملکرد بهتری دارد، در حالی که BERT نتایج بهتری در وظیفه NER (تشخیص موجودیت‌های نام‌دار) ارائه می‌دهد. برای انطباق بیشتر مدل BERT با حوزه حقوقی، از پیش‌آموزش حوزه‌ای و واژگان حقوقی اضافی استفاده شده است. چندین نوع از مدل BERT با استفاده از هر دو روش و ترکیب آن‌ها ایجاد شده است. با مقایسه انواع مدل BERT متخصص در حوزه حقوقی، این نتیجه حاصل می‌شود که هر دو تکنیک پیش‌آموزش و واژگان اضافی، عملکرد مدل BERT را در وظیفه طبقه‌بندی نظرات حقوقی بهبود می‌بخشند. واژگان حقوقی اضافی، عملکرد BERT را در وظیفه NER بهبود می‌بخشد. ترکیب تکنیک‌های پیش‌آموزش و واژگان، نتایج نهایی را بیشتر بهبود می‌بخشد. مدل Legal-Vocab-BERT بهترین نتایج را در وظیفه نظرات حقوقی ارائه می‌دهد و از مدل‌های زبانی عمومی از پیش آموزش‌دیده بزرگتر مانند BERT-Base و XLNet-Base عملکرد بهتری دارد.

به بیان ساده‌تر، این مقاله نشان می‌دهد که با استفاده از تکنیک‌های خاص، می‌توان مدل‌های زبانی قدرتمند مانند BERT را برای استفاده در زمینه‌ی حقوقی بهینه‌سازی کرد و به نتایج بسیار بهتری دست یافت. این بهینه‌سازی شامل افزودن دانش حقوقی خاص به مدل و همچنین گسترش واژگان آن با اصطلاحات حقوقی تخصصی است.

روش‌شناسی تحقیق در این مقاله شامل مراحل زیر است:

• انتخاب مدل‌های زبانی: انتخاب دو مدل زبانی پیشرفته، XLNet و BERT، به عنوان پایه‌های اصلی تحقیق. این مدل‌ها به دلیل عملکرد قوی و معماری متفاوت، برای مقایسه و ارزیابی انتخاب شده‌اند.
• آماده‌سازی داده‌ها: استفاده از مجموعه‌داده‌های مرتبط با حوزه حقوقی، شامل نظرات حقوقی و متون قانونی، برای آموزش و ارزیابی مدل‌ها.
• انطباق دامنه‌ای: استفاده از تکنیک‌های انطباق دامنه‌ای، از جمله پیش‌آموزش حوزه‌ای و افزودن واژگان حقوقی، برای بهینه‌سازی مدل BERT برای استفاده در زمینه‌ی حقوقی.
• ارزیابی عملکرد: استفاده از سنجه‌های ارزیابی مناسب، مانند دقت، فراخوانی و امتیاز F1، برای اندازه‌گیری عملکرد مدل‌ها در وظایف مختلف حقوقی.
• مقایسه و تحلیل: مقایسه‌ی عملکرد مدل‌های مختلف و تحلیل نتایج به دست آمده برای شناسایی نقاط قوت و ضعف هر مدل و تعیین بهترین رویکرد برای استفاده از NLP در فناوری حقوقی.

به عنوان مثال، در بخش انطباق دامنه‌ای، نویسندگان با جمع‌آوری مجموعه‌ای از اسناد حقوقی، مدل BERT را مجدداً آموزش داده‌اند تا این مدل دانش بیشتری در مورد اصطلاحات و مفاهیم حقوقی کسب کند. این کار باعث شده است که مدل BERT در تشخیص و درک متون حقوقی عملکرد بهتری داشته باشد.

یافته‌های کلیدی این تحقیق عبارتند از:

• مدل XLNet در طبقه‌بندی نظرات حقوقی عملکرد بهتری نسبت به BERT دارد. این نشان می‌دهد که معماری خودرگرسیو XLNet در درک روابط بین کلمات در متون حقوقی بهتر عمل می‌کند.
• مدل BERT در تشخیص موجودیت‌های نام‌دار (NER) در متون حقوقی عملکرد بهتری نسبت به XLNet دارد. این نشان می‌دهد که BERT در شناسایی و طبقه‌بندی موجودیت‌های مهم مانند اسامی افراد، سازمان‌ها و مکان‌ها در متون حقوقی قوی‌تر است.
• پیش‌آموزش حوزه‌ای و افزودن واژگان حقوقی به مدل BERT، عملکرد آن را در هر دو وظیفه طبقه‌بندی نظرات حقوقی و تشخیص موجودیت‌های نام‌دار بهبود می‌بخشد. این نشان می‌دهد که انطباق دامنه‌ای می‌تواند به طور قابل توجهی عملکرد مدل‌های زبانی را در زمینه‌های خاص بهبود بخشد.
• مدل Legal-Vocab-BERT، که با استفاده از پیش‌آموزش حوزه‌ای و افزودن واژگان حقوقی بهینه‌سازی شده است، بهترین نتایج را در طبقه‌بندی نظرات حقوقی ارائه می‌دهد و از مدل‌های بزرگتر مانند BERT-Base و XLNet-Base پیشی می‌گیرد.

به عنوان یک مثال ملموس، فرض کنید هدف ما استخراج اطلاعات مربوط به قراردادها از یک مجموعه اسناد حقوقی باشد. مدل Legal-Vocab-BERT می‌تواند به طور دقیق‌تری بندهای مربوط به مسئولیت‌ها، تعهدات و حقوق طرفین قرارداد را شناسایی و استخراج کند.

نتایج این تحقیق کاربردهای متعددی در فناوری حقوقی دارد:

• بهبود طبقه‌بندی مستندات حقوقی: طبقه‌بندی دقیق مستندات حقوقی، به وکلا و متخصصان حقوقی کمک می‌کند تا به سرعت و به آسانی به اطلاعات مورد نیاز خود دسترسی پیدا کنند.
• افزایش دقت استخراج اطلاعات حقوقی: استخراج دقیق اطلاعات از متون حقوقی، به وکلا و متخصصان حقوقی کمک می‌کند تا تحلیل‌های دقیق‌تری انجام دهند و تصمیمات بهتری بگیرند.
• تسهیل دسترسی به اطلاعات قانونی: با استفاده از NLP، می‌توان سیستم‌های جستجوی هوشمندی ایجاد کرد که به کاربران امکان می‌دهد به راحتی و با دقت بالا به اطلاعات قانونی مورد نیاز خود دسترسی پیدا کنند.
• خودکارسازی وظایف حقوقی: NLP می‌تواند برای خودکارسازی وظایف حقوقی تکراری و زمان‌بر، مانند بررسی قراردادها و تهیه پیش‌نویس اسناد قانونی، استفاده شود.

یکی از دستاوردهای مهم این تحقیق، توسعه‌ی مدل Legal-Vocab-BERT است که به طور خاص برای استفاده در زمینه‌ی حقوقی بهینه‌سازی شده است. این مدل می‌تواند به عنوان یک ابزار قدرتمند برای حل مسائل مختلف در فناوری حقوقی مورد استفاده قرار گیرد.

این مقاله با مقایسه‌ی عملکرد جعبه‌ابزارهای مختلف پردازش زبان طبیعی در وظایف حقوقی، نشان داد که با استفاده از تکنیک‌های انطباق دامنه‌ای، می‌توان عملکرد این ابزارها را به طور قابل توجهی بهبود بخشید. یافته‌های این تحقیق می‌تواند به متخصصان فناوری حقوقی کمک کند تا بهترین ابزارها و رویکردها را برای حل مسائل مختلف در این حوزه انتخاب کنند و از پتانسیل NLP برای ایجاد تحولات اساسی در صنعت حقوق بهره‌مند شوند. توسعه‌ی مدل Legal-Vocab-BERT نیز گامی مهم در جهت استفاده‌ی بهینه از NLP در فناوری حقوقی است و می‌تواند به عنوان یک پایه‌ی قوی برای تحقیقات آینده در این زمینه مورد استفاده قرار گیرد. در نهایت، این پژوهش بر اهمیت تخصص‌گرایی مدل‌های زبانی برای دستیابی به عملکرد بهینه در حوزه‌های تخصصی، مانند حقوق، تاکید می‌کند.