۱. معرفی مقاله و اهمیت آن

در دنیای پیچیده و پرشتاب امروزی، درک روابط علت و معلولی بین پدیده‌ها اهمیت بسزایی دارد. این امر به ویژه در حوزه تحلیل‌های مالی، where a thorough understanding of market trends, economic indicators, and company performance is critical for informed decision-making، از اهمیت ویژه‌ای برخوردار است. تشخیص روابط علی (Causality Detection) در متون، به ویژه در اسناد مالی، یکی از چالش‌برانگیزترین و در عین حال سودمندترین حوزه‌ها در پردازش زبان طبیعی (NLP) و تحقیقات زبان‌شناسی محسوب می‌شود. این توانایی به ما امکان می‌دهد تا دلایل پشت تحولات اقتصادی، پیش‌بینی روندهای آتی، و درک عمیق‌تر سازوکارهای بازار را تسهیل کنیم.

مقاله حاضر با عنوان “DSC-IITISM at FinCausal 2021: Combining POS tagging with Attention-based Contextual Representations for Identifying Causal Relationships in Financial Documents” که توسط Gunjan Haldar، Aman Mittal و Pradyumna Gupta نگاشته شده است، به طور خاص به این چالش در حوزه متون مالی می‌پردازد. این پژوهش با هدف ارتقاء دقت و کارایی در استخراج زوج‌های علت و معلول از اسناد مالی، رویکردی نوآورانه را معرفی می‌کند که ترکیبی هوشمندانه از تکنیک‌های سنتی پردازش زبان و مدل‌های پیشرفته یادگیری عمیق است.

اهمیت این تحقیق را می‌توان در کاربردهای متعدد آن در دنیای واقعی مشاهده کرد. از جمله این کاربردها می‌توان به بهبود سیستم‌های بازیابی اطلاعات، پیش‌بینی رویدادهای مالی، پاسخگویی به پرسش‌های پیچیده در مورد بازارهای مالی، و انجام تحقیقات عمیق‌تر در حوزه اقتصاد اشاره کرد. درک صحیح علت و معلول می‌تواند منجر به اتخاذ تصمیمات سرمایه‌گذاری هوشمندانه‌تر، شناسایی ریسک‌های بالقوه، و درک بهتر پویایی‌های بازار شود.

۲. نویسندگان و زمینه تحقیق

این مقاله حاصل تلاش پژوهشگرانی از موسسه فناوری اطلاعات هند (IITISM) است. نویسندگان مقاله، Gunjan Haldar، Aman Mittal و Pradyumna Gupta، هر یک با تخصص خود در زمینه هوش مصنوعی و پردازش زبان طبیعی، به این حوزه تحقیقاتی ارزشمند کمک کرده‌اند.

زمینه تحقیق این مقاله در تقاطع دو حوزه مهم قرار دارد:

• پردازش زبان طبیعی (NLP): تمرکز اصلی بر توسعه الگوریتم‌ها و مدل‌هایی است که قادر به فهم، تفسیر، و تولید زبان انسان هستند. تشخیص روابط علی یکی از وظایف پیشرفته در NLP محسوب می‌شود.
• تحلیل مالی و اقتصادی: کاربرد این تکنیک‌ها در تحلیل متون تخصصی مالی، مانند گزارش‌های شرکت‌ها، اخبار اقتصادی، و گزارش‌های تحلیلگران، برای استخراج دانش و بینش‌های عملی.

حضور این مقاله در کارگاه FinCausal 2021 (Financial Document Causality Recognition) که بخشی از کنفرانس ACL 2021 بوده است، نشان‌دهنده تمرکز جامعه علمی بر حل مسائل پیچیده در حوزه تشخیص علی در متون تخصصی است. FinCausal یک رقابت (Shared Task) تخصصی است که هدف آن پیشبرد تحقیقات در زمینه استخراج روابط علی از اسناد مالی است.

۳. چکیده و خلاصه محتوا

چکیده این مقاله به طور موجز به معرفی مسئله، روش پیشنهادی، و نتایج کلیدی می‌پردازد. نویسندگان بیان می‌کنند که تشخیص روابط علی، حوزه پژوهشی مهمی است که کاربردهای فراوانی در بازیابی اطلاعات، پیش‌بینی رویداد، پرسش و پاسخ، تحلیل مالی و تحقیقات بازار دارد. آن‌ها در این مطالعه، روش‌های مختلفی را برای شناسایی و استخراج زوج‌های علت و معلول در متون مالی با استفاده از مدل‌های ترانسفورمر (Transformer) بررسی کرده‌اند.

روش پیشنهادی اصلی آن‌ها، ترکیبی از برچسب‌زنی اجزای کلام (POS tagging) با طرح برچسب‌گذاری BIO (Begin, Inside, Outside) است. این ترکیب به گونه‌ای طراحی شده است که با مدل‌های ترانسفورمر مدرن ادغام شود و بتواند چالش شناسایی علیّت در متن را به طور مؤثرتری حل کند.

نتایج حاصل از این پژوهش بسیار امیدوارکننده بوده است. بهترین متدولوژی پیشنهادی آن‌ها توانسته است به امتیاز F1 برابر با 0.9551 و امتیاز تطابق دقیق (Exact Match Score) برابر با 0.8777 در مجموعه داده آزمون کور (blind test) رقابت FinCausal-2021 دست یابد. این اعداد نشان‌دهنده دقت بسیار بالای مدل در شناسایی صحیح زوج‌های علت و معلول در اسناد مالی است.

۴. روش‌شناسی تحقیق

قلب تپنده این پژوهش، روش‌شناسی ابداعی نویسندگان است که سعی در بهره‌گیری از نقاط قوت رویکردهای مختلف دارد. مدل پیشنهادی بر دو ستون اصلی استوار است:

۴.۱. برچسب‌زنی اجزای کلام (POS Tagging)

برچسب‌زنی اجزای کلام، فرایندی است که در آن هر کلمه در یک جمله بر اساس نقش دستوری‌اش (مانند اسم، فعل، صفت، قید و غیره) دسته‌بندی می‌شود. در این تحقیق، POS tagging به عنوان یک ویژگی مکمل برای کمک به مدل در درک ساختار جمله و شناسایی کلمات کلیدی که ممکن است نقش علّی یا معلولی داشته باشند، به کار رفته است. به عنوان مثال، شناسایی اینکه یک کلمه اسم است یا فعل، می‌تواند سرنخی برای تشخیص رابطه آن با سایر کلمات در جمله باشد.

استفاده از POS tagging به مدل کمک می‌کند تا از دانش زبانی سنتی در کنار قابلیت‌های یادگیری ماشین بهره‌مند شود. این اطلاعات می‌تواند به خصوص در متون تخصصی مالی که ممکن است ساختار جملات پیچیده‌تر باشد، مفید واقع شود.

۴.۲. طرح برچسب‌گذاری BIO و استخراج موجودیت

برای شناسایی و برچسب‌گذاری دقیق نواحی متن که حاوی علت یا معلول هستند، از طرح BIO استفاده شده است. این طرح به صورت زیر عمل می‌کند:

• B-Cause: نشان‌دهنده شروع یک علت.
• I-Cause: نشان‌دهنده ادامه یک علت.
• B-Effect: نشان‌دهنده شروع یک معلول.
• I-Effect: نشان‌دهنده ادامه یک معلول.
• O: نشان‌دهنده کلماتی که بخشی از علت یا معلول نیستند.

با استفاده از این طرح، مدل قادر به شناسایی دقیق مرزهای عبارات علّی و معلولی در متن می‌شود. برای مثال، در جمله “افزایش نرخ بهره منجر به کاهش سرمایه‌گذاری شد”، مدل ممکن است “افزایش نرخ بهره” را به عنوان B-Cause I-Cause و “کاهش سرمایه‌گذاری” را به عنوان B-Effect I-Effect برچسب‌گذاری کند.

۴.۳. بازنمایی زمینه‌ای توجهی (Attention-based Contextual Representations) و مدل‌های ترانسفورمر

مهم‌ترین جزء نوآوری این مقاله، استفاده از مدل‌های ترانسفورمر و مکانیسم توجه (Attention Mechanism) است. مدل‌های ترانسفورمر، مانند BERT یا RoBERTa، قابلیت شگفت‌انگیزی در درک معنا و وابستگی‌های دوربرد در متن دارند. این مدل‌ها با استفاده از لایه‌های متعدد و مکانیسم توجه، کلمات را بر اساس متن پیرامونشان پردازش می‌کنند و بازنمایی‌های غنی و زمینه‌مند (contextualized) از آن‌ها ایجاد می‌نمایند.

مکانیسم توجه به مدل اجازه می‌دهد تا بر روی کلمات مهم‌تر در متن تمرکز کند و وزن بیشتری به آن‌ها بدهد، که این امر برای تشخیص روابط ظریف علیّت بسیار حیاتی است. ترکیب این بازنمایی‌های قدرتمند با اطلاعات ساختاری حاصل از POS tagging و طرح BIO، مدلی جامع و کارآمد را برای تشخیص روابط علی در اسناد مالی ایجاد کرده است.

به طور خلاصه، فرایند به این صورت است: ابتدا متن ورودی به مدل ترانسفورمر داده می‌شود تا بازنمایی‌های زمینه‌مند کلمات را تولید کند. سپس، این بازنمایی‌ها همراه با اطلاعات POS tags و در قالب طرح BIO، به یک طبقه‌بند نهایی (classifier) داده می‌شوند تا بتواند هر کلمه را در یکی از دسته‌های B-Cause, I-Cause, B-Effect, I-Effect, O قرار دهد. در نهایت، با پردازش برچسب‌های پیش‌بینی شده، زوج‌های علت و معلول استخراج می‌شوند.

۵. یافته‌های کلیدی

یافته‌های این پژوهش نشان‌دهنده موفقیت چشمگیر رویکرد ترکیبی نویسندگان است. مهم‌ترین یافته‌های کلیدی عبارتند از:

• کارایی بالای مدل ترکیبی: ترکیب POS tagging با بازنمایی‌های زمینه‌ای توجهی در مدل‌های ترانسفورمر، منجر به بهبود قابل توجهی در دقت تشخیص روابط علی شده است. این نشان می‌دهد که افزودن اطلاعات ساختاری و دستوری سنتی به مدل‌های مدرن NLP می‌تواند بسیار مفید باشد.
• عملکرد عالی در FinCausal 2021: کسب امتیاز F1 برابر با 0.9551 و Exact Match Score برابر با 0.8777 در یک مجموعه داده آزمون رقابتی و چالش‌برانگیز، نشان‌دهنده توانایی بالای مدل در شناسایی دقیق زوج‌های علت و معلول در متون مالی واقعی است. این نتایج، مدل DSC-IITISM را در میان بهترین مدل‌های ارائه شده در این رقابت قرار داده است.
• اهمیت اطلاعات زمینه‌ای: نتایج تأکید می‌کنند که درک عمیق زمینه و روابط بین کلمات، که توسط مدل‌های ترانسفورمر و مکانیسم توجه فراهم می‌شود، برای تشخیص علیّت ضروری است.
• مقاومت در برابر پیچیدگی متون مالی: اسناد مالی غالباً دارای ساختار جملات پیچیده، اصطلاحات تخصصی و روابط پنهان هستند. توانایی مدل در دستیابی به چنین دقت بالایی در این متون، نشان‌دهنده انعطاف‌پذیری و قدرت بالای رویکرد پیشنهادی است.

برای مثال، مدل توانسته است روابطی را شناسایی کند که استخراج آن‌ها نیازمند درک ظرافت‌های زبانی و معنایی است. مثلاً، در جمله‌ای مانند “با توجه به نگرانی‌ها درباره تورم، بانک مرکزی اعلام کرد که سیاست‌های انقباضی را ادامه خواهد داد”، مدل قادر است “نگرانی‌ها درباره تورم” را به عنوان علت و “بانک مرکزی اعلام کرد که سیاست‌های انقباضی را ادامه خواهد داد” را به عنوان معلول شناسایی کند.

۶. کاربردها و دستاوردها

دستاورد اصلی این پژوهش، توسعه یک سیستم قدرتمند و دقیق برای تشخیص روابط علی در اسناد مالی است. این دستاورد، دریچه‌های تازه‌ای را به سوی کاربردهای عملی و ارزشمند در حوزه‌های مختلف باز می‌کند:

• تحلیل بازار سهام: شناسایی عواملی که منجر به نوسانات قیمتی سهام می‌شوند (مثلاً انتشار گزارش‌های مالی، اخبار مربوط به سیاست‌های دولت) و پیش‌بینی تاثیر آن‌ها.
• مدیریت ریسک: کشف روابط علت و معلولی بین رویدادهای اقتصادی و ریسک‌های مالی، به سازمان‌ها کمک می‌کند تا ریسک‌های خود را بهتر مدیریت کرده و اقدامات پیشگیرانه انجام دهند.
• تحلیل رفتار مصرف‌کننده: درک اینکه کدام عوامل اقتصادی یا بازاری منجر به تغییر رفتار خرید یا سرمایه‌گذاری مصرف‌کنندگان می‌شود.
• جستجوی اطلاعات هوشمند: بهبود سیستم‌های جستجو برای یافتن اطلاعات مرتبط با روابط علت و معلولی در حجم عظیمی از داده‌های مالی.
• سیستم‌های پرسش و پاسخ مالی: ساخت سیستم‌هایی که قادرند به سوالات پیچیده کاربران در مورد چرایی وقوع اتفاقات مالی پاسخ دهند.
• مطالعات اقتصادی: فراهم کردن ابزاری برای پژوهشگران اقتصادی جهت تحلیل آماری و کمی روابط علی در داده‌های متنی.

به طور کلی، این تحقیق به ماشین‌ها امکان می‌دهد تا “چرا” پشت اتفاقات مالی را بهتر درک کنند، نه فقط “چه” اتفاقی افتاده است. این توانایی، گامی مهم در جهت هوشمندسازی تصمیم‌گیری‌ها و تحلیل‌های مالی محسوب می‌شود.

۷. نتیجه‌گیری

مقاله “DSC-IITISM at FinCausal 2021” یک اثر تحقیقاتی برجسته است که با ارائه یک رویکرد ترکیبی نوآورانه، توانسته است پیشرفت قابل توجهی در زمینه تشخیص روابط علی در متون مالی ایجاد کند. نویسندگان با ادغام هوشمندانه برچسب‌زنی اجزای کلام (POS tagging) با طرح برچسب‌گذاری BIO و بهره‌گیری از قدرت مدل‌های ترانسفورمر و مکانیسم توجه، موفق به دستیابی به نتایج بسیار دقیق و قابل اتکا شده‌اند.

این پژوهش نه تنها به جامعه علمی در درک بهتر چالش‌های تشخیص علیّت کمک می‌کند، بلکه با نتایج درخشان خود در رقابت FinCausal-2021، راه را برای کاربردهای عملی گسترده در دنیای مالی هموار می‌سازد. توانایی درک دقیق روابط علت و معلولی در داده‌های مالی، عصاره‌ای از دانش را استخراج می‌کند که می‌تواند منجر به تصمیم‌گیری‌های اقتصادی استراتژیک‌تر، مدیریت ریسک بهتر، و درک عمیق‌تری از دینامیک‌های بازار شود.

این کار نشان می‌دهد که رویکردهای ترکیبی که نقاط قوت روش‌های سنتی و مدرن را با هم ادغام می‌کنند، اغلب بهترین نتایج را در مسائل پیچیده NLP به ارمغان می‌آورند. این مقاله، گامی مهم در جهت هوشمندتر کردن تحلیل‌های مالی و استخراج بینش‌های عمیق‌تر از حجم عظیم داده‌های متنی است.