در دنیای پویای امروز، بازارهای مالی و به ویژه بازار بورس، همواره کانون توجه سرمایه‌گذاران، تحلیلگران و محققان بوده‌اند. نوسانات شدید و غیرقابل پیش‌بینی بودن قیمت سهام، به دلیل تأثیر عوامل گوناگون اجتماعی، اقتصادی، سیاسی و حتی روانشناختی، چالش بزرگی را برای تصمیم‌گیری‌های مالی ایجاد می‌کند. این پدیده، در عین اینکه می‌تواند فرصت‌های سودآور را با حداقل سرمایه‌گذاری فراهم آورد، در صورت عدم پیش‌بینی صحیح، زیان‌های مالی جبران‌ناپذیری را نیز به همراه دارد.

مقاله علمی “مدل یادگیری عمیق مبتنی بر ترنسفورمر برای پیش‌بینی قیمت سهام: مطالعه موردی بازار بورس بنگلادش” به قلم مجموعه‌ای از محققان برجسته، گامی نوین در جهت مقابله با این چالش برداشته است. این مقاله، به بررسی و معرفی کاربرد یک مدل یادگیری ماشین پیشرفته – مدل ترنسفورمر – در حوزه پیش‌بینی قیمت آینده سهام در بازار بورس داکا (DSE)، که بورس پیشرو در بنگلادش محسوب می‌شود، می‌پردازد. اهمیت این تحقیق نه تنها در ارائه یک راهکار نوین برای پیش‌بینی قیمت سهام است، بلکه در معرفی رویکردی تازه برای کاربرد مدل‌های پیچیده یادگیری عمیق در مسائل سری‌های زمانی مالی نهفته است.

با توجه به ریسک‌های ذاتی سرمایه‌گذاری در بازار سهام و لزوم اتخاذ تصمیمات آگاهانه، توسعه ابزارهای پیش‌بینی دقیق از اهمیت حیاتی برخوردار است. این پژوهش نه تنها برای سرمایه‌گذاران فردی و نهادهای مالی بنگلادش سودمند است، بلکه الگویی برای بررسی کاربرد مدل‌های ترنسفورمر در سایر بازارهای نوظهور و با ماهیت نوسانی مشابه، به شمار می‌رود. نوآوری اصلی در این مقاله، استفاده از رمزگذاری time2vec برای نمایش ویژگی‌های سری زمانی، جهت بهره‌گیری از قدرت بی‌نظیر مدل ترنسفورمر در این زمینه است.

این مقاله حاصل تلاش مشترک و پژوهش‌های گروهی از محققان به نام‌های Tashreef Muhammad، Anika Bintee Aftab، Md. Mainul Ahsan، Maishameem Meherin Muhu، Muhammad Ibrahim، Shahidul Islam Khan، و Mohammad Shafiul Alam است. ترکیب اسامی و ماهیت تحقیق نشان‌دهنده تخصص این افراد در حوزه‌های علوم کامپیوتر، مهندسی نرم‌افزار، هوش مصنوعی، و مالی محاسباتی است. این تنوع در تخصص‌ها، امکان ادغام دانش عمیق در زمینه مدل‌سازی داده‌ها با فهم دقیق از پیچیدگی‌های بازارهای مالی را فراهم آورده است.

زمینه تحقیق این مقاله در تقاطع دو حوزه اصلی قرار دارد: مالی آماری (Statistical Finance) و یادگیری ماشین (Machine Learning). در دهه‌های اخیر، با رشد چشمگیر قدرت محاسباتی و دسترسی به حجم وسیعی از داده‌ها، رویکردهای مبتنی بر یادگیری ماشین، به ویژه یادگیری عمیق، تحول بزرگی در تحلیل و پیش‌بینی پدیده‌های پیچیده ایجاد کرده‌اند. بازار سهام به عنوان یک سیستم پیچیده و پویا، همواره کانون توجه برای اعمال این تکنیک‌های پیشرفته بوده است.

پیش از این، مدل‌های سنتی اقتصادسنجی و همچنین مدل‌های یادگیری ماشین مانند شبکه‌های عصبی بازگشتی (RNNs) و حافظه بلند کوتاه مدت (LSTMs) برای پیش‌بینی سری‌های زمانی مالی به کار گرفته شده‌اند. با این حال، این مدل‌ها اغلب با چالش‌هایی نظیر عدم توانایی در ثبت وابستگی‌های طولانی‌مدت در داده‌ها یا مواجهه با مشکل گرادیان محوشونده/منفجرشونده روبه‌رو بودند. مدل ترنسفورمر، که در ابتدا برای مسائل پردازش زبان طبیعی (NLP) و سپس در بینایی کامپیوتر به موفقیت‌های چشمگیری دست یافته است، با مکانیزم توجه (Attention Mechanism) خود، توانایی بی‌نظیری در مدل‌سازی وابستگی‌های دوربرد در داده‌های ترتیبی از خود نشان داده است. این تحقیق با درک پتانسیل بالای این مدل، تلاش کرده تا خلاء موجود در کاربرد آن برای پیش‌بینی سری‌های زمانی مالی را پر کند.

همانطور که در چکیده مقاله نیز اشاره شده است، قیمت سهام در بازار سرمایه مدرن به دلیل تأثیر عوامل متغیر اجتماعی، مالی، سیاسی و سایر فاکتورهای پویا، بسیار نوسان‌پذیر و غیرقابل پیش‌بینی تلقی می‌شود. در حالی که سرمایه‌گذاری آگاهانه و سنجیده می‌تواند سود قابل توجهی را با حداقل سرمایه‌گذاری اولیه تضمین کند، پیش‌بینی نادرست به سادگی می‌تواند منجر به زیان‌های مالی فاجعه‌بار برای سرمایه‌گذاران شود.

این مقاله به معرفی کاربرد مدل ترنسفورمر می‌پردازد؛ مدلی از یادگیری ماشین که اخیراً معرفی شده و توانایی‌های شگرفی از خود نشان داده است. هدف اصلی، پیش‌بینی قیمت آتی سهام بازار بورس داکا (DSE)، بورس پیشرو در بنگلادش، است. مدل ترنسفورمر به طور گسترده‌ای برای وظایف پردازش زبان طبیعی و بینایی کامپیوتر مورد استفاده قرار گرفته است، اما طبق بهترین دانش نویسندگان، هرگز برای پیش‌بینی قیمت سهام در DSE استفاده نشده است. این موضوع، یکی از جنبه‌های کلیدی نوآوری مقاله را تشکیل می‌دهد.

پیشرفت اخیر در معرفی رمزگذاری time2vec برای نمایش ویژگی‌های سری‌های زمانی، امکان به کارگیری مدل ترنسفورمر را برای پیش‌بینی قیمت سهام فراهم کرده است. این مقاله بر کاربرد مدل مبتنی بر ترنسفورمر برای پیش‌بینی حرکت قیمت هشت سهم خاص فهرست شده در DSE، بر اساس داده‌های تاریخی روزانه و هفتگی آن‌ها، تمرکز دارد. آزمایشات انجام شده توسط تیم تحقیقاتی، نتایج امیدوارکننده‌ای را به نمایش گذاشته و خطای میانگین مربعات ریشه (RMSE) قابل قبولی را در اکثر سهام مورد مطالعه نشان داده است. این نتایج حاکی از پتانسیل بالای مدل ترنسفورمر در حل یکی از دشوارترین چالش‌های مالی است.

روش‌شناسی به کار گرفته شده در این مطالعه، یک رویکرد جامع و مبتنی بر یادگیری عمیق برای حل مسئله پیش‌بینی سری‌های زمانی مالی است. این تحقیق با دقت فراوان، مراحل مختلف جمع‌آوری داده، پیش‌پردازش، انتخاب مدل، آموزش و ارزیابی را طی کرده است.

الف. فرمول‌بندی مسئله

مسئله اصلی این مطالعه، پیش‌بینی قیمت آتی سهام (مثلاً قیمت پایانی روز بعد) بر اساس داده‌های تاریخی گذشته (شامل قیمت‌های باز، بالا، پایین، بسته و حجم معاملات) است. این یک مسئله رگرسیون سری زمانی است که در آن هدف، پیش‌بینی یک مقدار عددی پیوسته است.

ب. انتخاب و طراحی مدل

انتخاب هسته مدل، یعنی مدل ترنسفورمر، نقطه کانونی این روش‌شناسی است. ترنسفورمرها به دلیل مکانیزم توجه خودکار (Self-Attention)، قادرند وابستگی‌های بلندمدت در داده‌های ترتیبی را به خوبی ثبت کنند و برخلاف RNNs یا LSTMs، فرآیند آموزش آن‌ها را می‌توان به صورت موازی انجام داد که منجر به سرعت بالاتر و توانایی پردازش توالی‌های طولانی‌تر می‌شود. معماری ترنسفورمر از لایه‌های رمزگذار و رمزگشا تشکیل شده است، اما در مسائل پیش‌بینی معمولاً از بخش رمزگذار آن استفاده می‌شود.

ج. جمع‌آوری و پیش‌پردازش داده

• منبع داده: داده‌های تاریخی روزانه و هفتگی هشت سهم منتخب از بازار بورس داکا (DSE) جمع‌آوری شده‌اند. این سهام احتمالاً بر اساس حجم معاملات، نقدشوندگی یا نمایندگی صنایع مختلف انتخاب شده‌اند.
• ویژگی‌ها: داده‌های سهام معمولاً شامل قیمت‌های باز شدن (Open)، حداکثر (High)، حداقل (Low)، بسته شدن (Close) و حجم معاملات (Volume) هستند. این ویژگی‌ها برای آموزش مدل استفاده می‌شوند.
• رمزگذاری time2vec: این یک نوآوری کلیدی است. time2vec یک روش رمزگذاری است که ویژگی‌های سری‌های زمانی را به یک فضای برداری (Embedding Space) نگاشت می‌کند، به گونه‌ای که هم اطلاعات مربوط به زمان مطلق و هم زمان نسبی را حفظ می‌کند. این امر، داده‌های سری زمانی را برای ورودی به مدل ترنسفورمر، که ذاتاً برای ورودی‌های گسسته و توالی‌محور مانند کلمات در NLP طراحی شده، مناسب می‌سازد.
• نرمال‌سازی: داده‌ها قبل از ورود به مدل، معمولاً نرمال‌سازی می‌شوند تا مقیاس‌های مختلف ویژگی‌ها توازن یابند و از غالب شدن یک ویژگی خاص جلوگیری شود.

د. فاز آموزش و ارزیابی

• تقسیم داده: مجموعه داده به سه بخش آموزش (Training)، اعتبارسنجی (Validation) و آزمون (Test) تقسیم می‌شود. داده‌های آموزش برای یادگیری مدل، داده‌های اعتبارسنجی برای تنظیم هایپرپارامترها و داده‌های آزمون برای ارزیابی نهایی عملکرد مدل بر روی داده‌های جدید و ندیده شده استفاده می‌شوند.
• معیارهای ارزیابی: معیار اصلی برای ارزیابی عملکرد مدل، خطای میانگین مربعات ریشه (RMSE) است. RMSE یک معیار رایج برای ارزیابی دقت مدل‌های رگرسیون است که میزان متوسط خطا را اندازه‌گیری می‌کند. مقادیر کمتر RMSE نشان‌دهنده دقت بالاتر مدل است.
• پیاده‌سازی: مدل احتمالاً با استفاده از فریم‌ورک‌های یادگیری عمیق مانند TensorFlow یا PyTorch پیاده‌سازی شده است.

با این رویکرد روشمند، محققان توانسته‌اند یک پایه مستحکم برای ارزیابی قابلیت‌های مدل ترنسفورمر در حوزه پیش‌بینی قیمت سهام ایجاد کنند.

نتایج حاصل از آزمایش‌های انجام شده در این مقاله، نکات مهم و امیدوارکننده‌ای را در خصوص کاربرد مدل ترنسفورمر برای پیش‌بینی قیمت سهام در بازار بورس داکا (DSE) آشکار می‌سازد:

• نتایج امیدوارکننده: مدل ترنسفورمر عملکرد امیدوارکننده‌ای را در پیش‌بینی حرکت قیمت سهام از خود نشان داده است. این به معنای آن است که مدل توانسته است الگوهای پیچیده و پنهان در داده‌های تاریخی سهام را شناسایی و از آن‌ها برای پیش‌بینی روندهای آتی استفاده کند. این موفقیت، فراتر از انتظارات اولیه بوده و پتانسیل این مدل را در حوزه مالی به اثبات می‌رساند.
• RMSE قابل قبول: در اکثر سهام مورد مطالعه، خطای میانگین مربعات ریشه (RMSE) در سطحی قابل قبول قرار داشته است. RMSE پایین نشان‌دهنده انحراف کمتری بین قیمت‌های پیش‌بینی شده توسط مدل و قیمت‌های واقعی است. این امر به معنای آن است که پیش‌بینی‌های مدل به اندازه کافی دقیق هستند که بتوانند در تصمیم‌گیری‌های عملی سرمایه‌گذاری مورد استفاده قرار گیرند، با وجود نوسانات ذاتی و غیرقابل پیش‌بینی بودن بازار سهام.
• اثربخشی time2vec: یکی از دستاوردهای مهم این تحقیق، تأیید اثربخشی رمزگذاری time2vec است. این روش کدگذاری، با تبدیل سری‌های زمانی به فرمتی که برای ترنسفورمر قابل فهم است، نقش حیاتی در موفقیت مدل ایفا کرده است. این یافته نشان می‌دهد که نوآوری در نحوه نمایش داده‌ها می‌تواند به طور چشمگیری عملکرد مدل‌های یادگیری عمیق را در حوزه‌های جدید بهبود بخشد.
• توانایی مدل در ثبت الگوهای پیچیده: مدل ترنسفورمر به واسطه مکانیزم توجه خود، توانسته است وابستگی‌های طولانی‌مدت و روابط پیچیده بین داده‌های گذشته را که ممکن است مدل‌های سنتی‌تر قادر به تشخیص آن‌ها نباشند، شناسایی کند. این توانایی برای بازارهای مالی که در آن‌ها روندها و اثرات تاخیری می‌توانند برای مدت طولانی دوام داشته باشند، بسیار حیاتی است.

این یافته‌ها نه تنها برای بازار بورس داکا، بلکه برای سایر بازارهای نوظهور و حتی بازارهای توسعه‌یافته نیز اهمیت دارد. آن‌ها نشان می‌دهند که مدل‌های ترنسفورمر با ترکیب مناسب تکنیک‌های پیش‌پردازش داده، می‌توانند ابزارهای قدرتمندی برای تحلیل و پیش‌بینی روندهای مالی باشند.

کاربردها و دستاوردهای حاصل از این تحقیق، طیف وسیعی از ذینفعان را در بر می‌گیرد و می‌تواند تأثیرات قابل توجهی بر حوزه مالی و یادگیری ماشین داشته باشد:

الف. برای سرمایه‌گذاران فردی و نهادهای مالی

• تصمیم‌گیری آگاهانه: با دسترسی به پیش‌بینی‌های دقیق‌تر، سرمایه‌گذاران می‌توانند تصمیمات خرید و فروش را با اطلاعات بیشتری اتخاذ کنند. این امر می‌تواند به کاهش ریسک و افزایش بازدهی سرمایه‌گذاری منجر شود.
• معاملات الگوریتمی: نهادهای مالی می‌توانند از این مدل به عنوان بخشی از سیستم‌های معاملات الگوریتمی خود استفاده کنند تا به صورت خودکار و بر اساس پیش‌بینی‌های مدل، معاملات را انجام دهند. این امر می‌تواند سرعت و کارایی معاملات را به طور چشمگیری افزایش دهد.
• مدیریت پورتفولیو: مدل می‌تواند به بهینه‌سازی ساختار پورتفولیو، شناسایی سهام با پتانسیل رشد بالا و تشخیص زودهنگام سهام پرخطر کمک کند.

ب. برای محققان و توسعه‌دهندگان

• گسترش حوزه کاربرد ترنسفورمر: این تحقیق نشان می‌دهد که مدل ترنسفورمر، که در ابتدا برای NLP طراحی شده بود، با استفاده از تکنیک‌های مناسب رمزگذاری مانند time2vec، می‌تواند به طور مؤثر در مسائل سری‌های زمانی، به ویژه در حوزه مالی، به کار گرفته شود. این امر راه را برای تحقیقات آتی در سایر بازارهای مالی و انواع مختلف سری‌های زمانی باز می‌کند.
• بنچمارک جدید: نتایج این مطالعه می‌تواند به عنوان یک بنچمارک برای مقایسه عملکرد مدل‌های یادگیری عمیق در پیش‌بینی قیمت سهام در بازارهای نوظهور عمل کند.

ج. برای سیاست‌گذاران و نهادهای نظارتی

• درک پویایی بازار: با تحلیل عملکرد مدل در شرایط مختلف بازار، سیاست‌گذاران می‌توانند درک عمیق‌تری از پویایی‌ها و عوامل تأثیرگذار بر بازار بورس به دست آورند.
• سیستم‌های هشدار اولیه: هرچند که هدف اصلی مدل پیش‌بینی است، اما توانایی آن در شناسایی الگوها می‌تواند به توسعه سیستم‌های هشدار اولیه برای نوسانات شدید یا روندهای غیرعادی بازار کمک کند.

به طور خلاصه، دستاورد اصلی این پژوهش، نه تنها ارائه یک مدل پیش‌بینی قوی‌تر برای بازار بورس داکا است، بلکه نشان دادن پتانسیل عظیم مدل‌های ترنسفورمر و تکنیک‌های نوین رمزگذاری داده در حل مسائل پیچیده و نوسانی دنیای واقعی، فراتر از حوزه‌های سنتی آن‌هاست.

در مجموع، مقاله “مدل یادگیری عمیق مبتنی بر ترنسفورمر برای پیش‌بینی قیمت سهام: مطالعه موردی بازار بورس بنگلادش” یک پیشرفت مهم در حوزه مالی محاسباتی و یادگیری ماشین محسوب می‌شود. این پژوهش با موفقیت نشان داد که مدل ترنسفورمر، که انقلابی در پردازش زبان طبیعی ایجاد کرده بود، با به‌کارگیری هوشمندانه رمزگذاری time2vec، می‌تواند به ابزاری قدرتمند برای پیش‌بینی نوسانات پیچیده قیمت سهام تبدیل شود.

نوآوری اصلی این کار در دو جنبه کلیدی نهفته است: اول، کاربرد مدل ترنسفورمر در بازار بورس داکا (DSE)، که تا پیش از این سابقه نداشت، و دوم، اثبات کارایی رمزگذاری time2vec به عنوان یک مکانیزم حیاتی برای تطبیق سری‌های زمانی با معماری ترنسفورمر. نتایج امیدوارکننده و RMSE قابل قبول در اکثر سهام مورد مطالعه، نه تنها پتانسیل بالای این رویکرد را تأیید می‌کند، بلکه راه را برای کاربردهای عملی آن در تصمیم‌گیری‌های سرمایه‌گذاری و مدیریت ریسک هموار می‌سازد.

این دستاوردها فراتر از بازار بورس بنگلادش، می‌توانند به عنوان یک الگو برای سایر بازارهای نوظهور و حتی بازارهای توسعه‌یافته عمل کنند، و الهام‌بخش تحقیقات آتی در زمینه ادغام مدل‌های یادگیری عمیق با چالش‌های دنیای مالی باشند. اهمیت این مطالعه در این است که پلی بین نظریه‌های پیشرفته یادگیری ماشین و نیازهای عملی بازارهای مالی برقرار می‌کند و ابزاری جدید و قدرتمند برای سرمایه‌گذاران و تحلیلگران فراهم می‌آورد.

مسیرهای آتی تحقیق

با وجود نتایج درخشان، این تحقیق می‌تواند در مسیرهای زیر ادامه یابد:

• توسعه مدل: بررسی نسخه‌های پیشرفته‌تر یا جایگزین مدل ترنسفورمر، مانند ترنسفورمرهای اسپارس یا مدل‌های مبتنی بر توجه ترکیبی، برای افزایش دقت و کاهش پیچیدگی محاسباتی.
• داده‌های متنوع‌تر: ادغام داده‌های غیرعددی مانند تحلیل اخبار، احساسات شبکه‌های اجتماعی و شاخص‌های کلان اقتصادی می‌تواند به مدل در درک جامع‌تر عوامل مؤثر بر قیمت سهام کمک کند.
• آزمایش در بازارهای دیگر: ارزیابی عملکرد مدل در بازارهای بورس با ویژگی‌های متفاوت (مانند بازارهای توسعه‌یافته، بازارهای کالا یا ارزهای دیجیتال) برای سنجش قابلیت تعمیم‌پذیری آن.
• تفسیرپذیری: توسعه روش‌هایی برای افزایش تفسیرپذیری مدل ترنسفورمر در زمینه مالی، تا بتوان دلایل پشت پیش‌بینی‌های آن را بهتر درک کرد و اعتماد سرمایه‌گذاران را افزایش داد.

در نهایت، این مقاله نه تنها یک گام مهم در پیش‌بینی قیمت سهام برداشته است، بلکه افق‌های جدیدی را برای کاربرد هوشمندانه یادگیری عمیق در یکی از پویاترین و چالش‌برانگیزترین حوزه‌های دنیای مدرن گشوده است.