مقدمه و اهمیت مقاله

در دنیای پیچیده و دائماً در حال تحول امور مالی، درک روابط معنایی بین اصطلاحات مختلف از اهمیت بالایی برخوردار است. این درک نه تنها برای متخصصان مالی، بلکه برای توسعه‌دهندگان سیستم‌های هوش مصنوعی که با داده‌های مالی سروکار دارند، حیاتی است. مقاله حاضر، که با عنوان «DICoE@FinSim-3: شناسایی اَبَرواژه مالی با استفاده از اصطلاحات افزوده و ویژگی‌های مبتنی بر فاصله» ارائه شده است، به این چالش اساسی پرداخته و رویکردی نوآورانه را برای دسته‌بندی اصطلاحات مالی بر اساس اَبَرواژه‌های (Hypernyms) مرتبط با آن‌ها معرفی می‌کند. این پژوهش بخشی از مسابقه FinSim-3، سومین کارگاه مشترک در زمینه یادگیری شباهت‌های معنایی در حوزه مالی، بوده و هدف آن بهبود دقت و کارایی سیستم‌های پردازش زبان طبیعی در این دامنه تخصصی است.

اهمیت این تحقیق در توانایی آن برای ایجاد درک عمیق‌تر از ساختار واژگانی و روابط سلسله مراتبی در زبان مالی نهفته است. شناسایی صحیح اَبَرواژه برای هر اصطلاح مالی، امکان سازماندهی بهتر اطلاعات، بازیابی دقیق‌تر داده‌ها، و ساخت مدل‌های پیشرفته‌تر برای تحلیل‌های مالی مانند پیش‌بینی روندها، مدیریت ریسک، و درک اخبار اقتصادی را فراهم می‌آورد. در این مقاله، تیم DICoE با ارائه‌ی یک سیستم هوشمند، توانسته است در میان شرکت‌کنندگان FinSim-3 جایگاهی شایسته کسب کند و راه را برای تحقیقات آتی در این حوزه هموار سازد.

نویسندگان و زمینه تحقیق

این مقاله حاصل تلاش جمعی از پژوهشگران برجسته در زمینه پردازش زبان طبیعی و علوم کامپیوتر است. نویسندگان آن عبارتند از: Lefteris Loukas، Konstantinos Bougiatiotis، Manos Fergadiotis، Dimitris Mavroeidis، و Elias Zavitsanos. حضور این تیم در مسابقه FinSim-3 نشان‌دهنده تخصص و تعهد آن‌ها به پیشبرد مرزهای دانش در حوزه پردازش زبان برای دامنه‌های تخصصی، به ویژه حوزه مالی، است.

زمینه تحقیق این مقاله در حوزه «محاسبات و زبان» (Computation and Language) قرار می‌گیرد. این رشته علمی به بررسی تعامل بین زبان انسان و کامپیوترها می‌پردازد و هدف آن توسعه سیستم‌هایی است که بتوانند زبان طبیعی را درک کرده، پردازش کنند و به آن واکنش نشان دهند. به طور خاص، این پژوهش بر روی «یادگیری شباهت‌های معنایی» (Learning Semantic Similarities) تمرکز دارد، که یکی از چالش‌برانگیزترین و در عین حال کاربردی‌ترین جنبه‌های پردازش زبان طبیعی است. در حوزه مالی، که اصطلاحات تخصصی فراوانی وجود دارد و روابط معنایی بین آن‌ها اغلب ظریف و پیچیده است، این توانایی اهمیت دوچندانی پیدا می‌کند.

چکیده و خلاصه محتوا

تیم DICoE، در قالب ارائه خود برای FinSim-3، چالش شناسایی اَبَرواژه مناسب برای مجموعه‌ای از اصطلاحات مالی را مورد بررسی قرار داده است. وظیفه اصلی این کارگاه، دسته‌بندی هر اصطلاح ارائه شده به مرتبط‌ترین اَبَرواژه موجود در یک هستی‌شناسی (Ontology) مالی بوده است. برای دستیابی به این هدف، تیم DICoE رویکردی چندوجهی را اتخاذ کرده است:

• افزودن تعاریف Investopedia: یکی از گام‌های اولیه و مؤثر، غنی‌سازی اصطلاحات ورودی با تعاریف استخراج شده از Investopedia بوده است. این کار به سیستم اجازه می‌دهد تا اطلاعات متنی بیشتری در مورد معنای هر اصطلاح داشته باشد.
• استفاده از طبقه‌بندی‌کننده رگرسیون لجستیک: برای پردازش اصطلاحات و ویژگی‌های استخراج شده، از یک مدل رگرسیون لجستیک (Logistic Regression) استفاده شده است. این مدل به دلیل سادگی و اثربخشی در مسائل طبقه‌بندی، انتخاب شده است.
• ترکیب ویژگی‌های واژه‌پردازی و مبتنی بر فاصله: سیستم بر روی «تعبیه‌های واژگانی مالی» (Financial Word Embeddings) که نمایشی عددی از کلمات هستند، عمل می‌کند. علاوه بر این، از ترکیبی از ویژگی‌های «دست‌ساز» (Hand-crafted) و «مبتنی بر فاصله» (Distance-based) بهره برده شده است. این ویژگی‌ها به مدل کمک می‌کنند تا روابط معنایی و ساختاری بین اصطلاحات را بهتر درک کند.
• مدیریت اصطلاحات خارج از دایره واژگان (OOV): برای اولین بار در این رقابت، تیم DICoE روش‌های نوینی را برای جایگزینی اصطلاحات خارج از دایره واژگان (Out-of-Vocabulary – OOV) پیاده‌سازی کرده است. این روش‌ها به طور قابل توجهی عملکرد سیستم را بهبود بخشیده‌اند.
• آزمایش با بازنمایی‌های مختلف واژگان: در نهایت، نویسندگان با استفاده از بازنمایی‌های واژگانی که از کورپاهای (Corpora) مالی مختلف تولید شده‌اند، نتایج را مقایسه و بهینه‌سازی کرده‌اند.

به طور خلاصه، این مقاله یک سیستم پیشرفته برای شناسایی اَبَرواژه‌های مالی را معرفی می‌کند که با ترکیب تکنیک‌های نوین در پردازش زبان طبیعی، دقت قابل توجهی را در این حوزه تخصصی به دست آورده است.

روش‌شناسی تحقیق

تیم DICoE رویکردی سیستماتیک و چندمرحله‌ای را برای حل مسئله شناسایی اَبَرواژه مالی پیاده‌سازی کرده است. این روش‌شناسی شامل مراحل زیر است:

1. پیش‌پردازش و غنی‌سازی داده‌ها:

   مرحله اول، گسترش دامنه اطلاعات مرتبط با هر اصطلاح مالی بوده است. این کار از طریق افزودن تعاریف مربوط به هر اصطلاح، که از منبع معتبر Investopedia استخراج شده است، انجام شده. این تعاریف، اطلاعات معنایی بیشتری را به هر اصطلاح اضافه کرده و به مدل در فهم بهتر زمینه کاربرد آن کمک می‌کنند. به عنوان مثال، اگر اصطلاح «سهام عادی» (Common Stock) ارائه شود، تعریف Investopedia آن که توضیح می‌دهد «نوعی اوراق بهادار است که نماینده مالکیت در یک شرکت و حق رأی در تصمیم‌گیری‌های هیئت مدیره است»، به سیستم در تمایز آن از سایر انواع سهام یا ابزارهای مالی کمک شایانی می‌کند.

2. تولید تعبیه‌های واژگانی (Word Embeddings):

   از مدل‌های تعبیه‌سازی واژگانی برای تبدیل کلمات به بردارهای عددی استفاده شده است. این بردارها، روابط معنایی بین کلمات را در فضای چندبعدی منعکس می‌کنند. در این تحقیق، تمرکز بر روی تعبیه‌های واژگانی آموزش‌داده شده بر روی داده‌های حوزه مالی بوده است (Financial Word Embeddings). استفاده از کورپاهای تخصصی مالی، تضمین می‌کند که این بردارها، روابط معنایی خاص این دامنه را به خوبی نمایش دهند. برای مثال، در فضای تعبیه‌سازی، بردار کلمه «قرض» (Loan) احتمالاً به بردارهای کلمه «بانک» (Bank) یا «بهره» (Interest) نزدیک‌تر خواهد بود.

3. طراحی و استخراج ویژگی‌ها:

   این مرحله شامل ایجاد ترکیبی از ویژگی‌های مختلف است:

   • ویژگی‌های دست‌ساز (Hand-crafted Features): این ویژگی‌ها توسط متخصصان دامنه یا بر اساس دانش پیشین از ساختار زبان مالی طراحی می‌شوند. این‌ها می‌توانند شامل مواردی مانند طول کلمه، فراوانی نسبی در کورپای مالی، یا حضور در لیست‌های کلمات کلیدی باشند.
   • ویژگی‌های مبتنی بر فاصله (Distance-based Features): این ویژگی‌ها بر اساس فاصله بین بردارهای تعبیه‌سازی کلمات ورودی و کلمات موجود در هستی‌شناسی مالی محاسبه می‌شوند. به عنوان مثال، فاصله کسینوسی بین بردار یک اصطلاح مالی و بردار اَبَرواژه بالقوه آن، می‌تواند نشان‌دهنده میزان شباهت معنایی باشد. هرچه فاصله کمتر باشد، احتمال تعلق آن اصطلاح به آن اَبَرواژه بیشتر است.
4. مدیریت اصطلاحات خارج از دایره واژگان (OOV):

   این یکی از نوآوری‌های کلیدی سیستم DICoE بوده است. در زبان طبیعی، همواره کلماتی وجود دارند که در مجموعه داده‌های آموزشی مدل حضور نداشته‌اند. برای این دسته از اصطلاحات، روش‌های مختلفی برای جایگزینی یا تولید نمایش معنایی آن‌ها آزمایش شده است. این روش‌ها می‌توانند شامل جایگزینی با نزدیک‌ترین کلمه موجود، استفاده از زیرکلمات (subwords)، یا میانگین‌گیری از بردارهای کلمات مشابه باشند. پیاده‌سازی و ارزیابی روش‌های مختلف OOV، گامی مهم در بهبود استحکام (Robustness) سیستم بوده است.

5. مدل طبقه‌بندی:

   در نهایت، برای طبقه‌بندی اصطلاحات مالی به اَبَرواژه‌های مناسب، از یک مدل رگرسیون لجستیک (Logistic Regression) استفاده شده است. این مدل، با استفاده از ترکیب ویژگی‌های استخراج شده و تعبیه‌های واژگانی، احتمال تعلق هر اصطلاح به هر یک از اَبَرواژه‌های موجود در هستی‌شناسی مالی را محاسبه کرده و اَبَرواژه‌ای با بالاترین احتمال را انتخاب می‌کند.

یافته‌های کلیدی

نتایج حاصل از رویکرد تیم DICoE در مسابقه FinSim-3، حاکی از موفقیت‌آمیز بودن استراتژی‌های اتخاذ شده است. یافته‌های کلیدی این تحقیق عبارتند از:

• تأثیر غنی‌سازی داده‌ها: افزودن تعاریف Investopedia به اصطلاحات اولیه، به طور قابل توجهی کیفیت بازنمایی معنایی را بهبود بخشیده و به مدل کمک کرده است تا درک دقیق‌تری از اصطلاحات داشته باشد. این نشان می‌دهد که استفاده از دانش دامنه، حتی در مراحل اولیه، می‌تواند نتایج را دگرگون کند.
• اثربخشی ویژگی‌های ترکیبی: ترکیب ویژگی‌های دست‌ساز و مبتنی بر فاصله، به سیستم اجازه داده است تا هم از دانش صریح ساختاری و هم از شباهت‌های ضمنی معنایی بهره ببرد. ویژگی‌های مبتنی بر فاصله، به ویژه با استفاده از تعبیه‌های واژگانی مالی، نقش کلیدی در سنجش نزدیکی معنایی ایفا کرده‌اند.
• پیشرفت با مدیریت OOV: نوآوری در روش‌های مدیریت اصطلاحات خارج از دایره واژگان، یکی از عوامل مهم در بهبود عملکرد نهایی سیستم بوده است. این یافته بر اهمیت توجه به چالش‌های عملی در پردازش زبان طبیعی، به‌خصوص در دامنه‌های تخصصی با واژگان در حال تحول، تأکید دارد.
• عملکرد مطلوب با رگرسیون لجستیک: با وجود ظهور مدل‌های پیچیده‌تر یادگیری عمیق، رگرسیون لجستیک در این سناریو، در ترکیب با ویژگی‌های قوی، توانسته است عملکرد رقابتی ارائه دهد. این نشان می‌دهد که انتخاب ویژگی مناسب و استفاده از دانش دامنه می‌تواند در سادگی مدل نیز به نتایج عالی دست یافت.
• رتبه چهارم در مسابقه: موفقیت نهایی تیم DICoE با کسب رتبه چهارم در تابلو امتیازات (leaderboard) مسابقه FinSim-3، گواهی بر کیفیت و کارایی رویکرد آن‌ها است. این نتیجه، سیستم آن‌ها را در میان بهترین راه‌حل‌های ارائه شده برای این چالش قرار داده است.

کاربردها و دستاوردها

دستاورد اصلی این تحقیق، توسعه و ارزیابی یک سیستم قدرتمند برای شناسایی اَبَرواژه مالی است. این سیستم پتانسیل بالایی برای کاربردهای عملی در حوزه‌های مختلف دارد:

• سازماندهی و نمایه‌سازی اطلاعات مالی: با دسته‌بندی خودکار اصطلاحات مالی، می‌توان پایگاه‌های داده بزرگ را به طور مؤثرتری سازماندهی کرد. این امر جستجو و بازیابی اطلاعات مربوط به مفاهیم خاص مالی را بسیار ساده‌تر می‌سازد. به عنوان مثال، یک سرمایه‌گذار که به دنبال اطلاعاتی در مورد «مشتقات» (Derivatives) است، می‌تواند به سرعت به تمامی مقالات و گزارش‌هایی که با زیرمجموعه‌هایی مانند «قرارداد آتی» (Futures Contract) یا «اختیار معامله» (Options) مرتبط هستند، دسترسی پیدا کند.
• بهبود موتورهای جستجو تخصصی: موتورهای جستجوی تخصصی در حوزه مالی می‌توانند با استفاده از این سیستم، نتایج جستجو را بر اساس روابط معنایی معنا‌دارتر کنند. این امر به کاربران کمک می‌کند تا اطلاعات دقیق‌تر و مرتبط‌تری را در زمان کمتر بیابند.
• توسعه سیستم‌های هوش مصنوعی برای تحلیل مالی: مدل‌های یادگیری ماشین و هوش مصنوعی که برای تحلیل بازار، پیش‌بینی قیمت‌ها، یا تشخیص تقلب طراحی می‌شوند، اغلب نیازمند درک عمیقی از مفاهیم مالی هستند. این سیستم می‌تواند به عنوان یک جزء پیش‌پردازش، به این مدل‌ها کمک کند تا اصطلاحات را بهتر درک کرده و عملکرد خود را بهبود بخشند.
• آموزش و تسهیل یادگیری: برای دانشجویان و افراد تازه‌کار در حوزه مالی، درک روابط بین اصطلاحات می‌تواند چالش‌برانگیز باشد. این سیستم می‌تواند ابزاری کمکی برای یادگیری باشد و به درک بهتر ساختار و سلسله مراتب مفاهیم مالی کمک کند.
• استانداردسازی واژگان مالی: در صنایعی که نیاز به ارتباطات دقیق و بدون ابهام وجود دارد، استانداردسازی واژگان حیاتی است. این سیستم می‌تواند به تعریف و تأیید روابط بین اصطلاحات مختلف در هستی‌شناسی‌های مالی کمک کند.

دستاورد اصلی دیگر، ارائه یک چارچوب کاری (Framework) است که قابل تعمیم به سایر دامنه‌های تخصصی باشد. روش‌شناسی تیم DICoE، با ترکیب داده‌های غنی‌شده، ویژگی‌های هوشمندانه، و مدیریت چالش‌های OOV، می‌تواند به عنوان الگو برای حل مسائل مشابه در حوزه‌هایی مانند پزشکی، حقوق، یا مهندسی مورد استفاده قرار گیرد.

نتیجه‌گیری

مقاله «DICoE@FinSim-3: شناسایی اَبَرواژه مالی با استفاده از اصطلاحات افزوده و ویژگی‌های مبتنی بر فاصله» نمونه‌ای برجسته از کاربرد پیشرفته پردازش زبان طبیعی در یک دامنه تخصصی است. تیم DICoE با رویکردی نظام‌مند و خلاقانه، توانسته است سیستمی توسعه دهد که در چالش FinSim-3 عملکردی درخشان از خود نشان دهد.

ترکیب هوشمندانه تعاریف Investopedia، استفاده از تعبیه‌های واژگانی مالی، استخراج ویژگی‌های متنوع، و به‌ویژه، نوآوری در مدیریت اصطلاحات خارج از دایره واژگان، عوامل کلیدی موفقیت این تیم بوده‌اند. کسب رتبه چهارم در این مسابقه، اعتبار این یافته‌ها را تأیید می‌کند و نشان می‌دهد که این رویکرد، پتانسیل بالایی برای کاربردهای عملی در دنیای واقعی دارد.

این تحقیق نه تنها به پیشرفت در حوزه شناسایی شباهت‌های معنایی در زبان مالی کمک کرده است، بلکه الگو و چارچوبی را برای تحقیقات آینده در پردازش زبان طبیعی برای دامنه‌های تخصصی ارائه می‌دهد. با توجه به حجم فزاینده داده‌های متنی در حوزه مالی و نیاز روزافزون به استخراج اطلاعات دقیق و معنادار، دستاوردهای این مقاله ارزش علمی و کاربردی بسزایی دارند و راه را برای توسعه سیستم‌های هوشمندتر و دقیق‌تر در این حوزه هموار می‌سازند.