ترجمه فارسی مقاله لطفاً توجه کنید: مدل‌های ترانسفورماتور واقعاً برای پیش‌بینی فرآیند چه می‌آموزند

چکیده

Predictive process monitoring aims to support the execution of a process during runtime with various predictions about the further evolution of a process instance. In the last years a plethora of deep learning architectures have been established as state-of-the-art for different prediction targets, among others the transformer architecture. The transformer architecture is equipped with a powerful attention mechanism, assigning attention scores to each input part that allows to prioritize most relevant information leading to more accurate and contextual output. However, deep learning models largely represent a black box, i.e., their reasoning or decision-making process cannot be understood in detail. This paper examines whether the attention scores of a transformer based next-activity prediction model can serve as an explanation for its decision-making. We find that attention scores in next-activity prediction models can serve as explainers and exploit this fact in two proposed graph-based explanation approaches. The gained insights could inspire future work on the improvement of predictive business process models as well as enabling a neural network based mining of process models from event logs.

چکیده به فارسی (ترجمه ماشینی)

نظارت بر فرآیند پیش بینی با هدف حمایت از اجرای یک فرآیند در طول زمان اجرا با پیش بینی های مختلف در مورد تکامل بیشتر یک نمونه فرآیند.در سالهای گذشته مجموعه ای از معماری های یادگیری عمیق به عنوان پیشرفته برای اهداف پیش بینی مختلف ، از جمله دیگر معماری ترانسفورماتور ایجاد شده است.معماری ترانسفورماتور مجهز به مکانیسم توجه قدرتمند است و نمرات توجه را به هر قسمت ورودی اختصاص می دهد که امکان اولویت بندی بیشتر اطلاعات مرتبط را که منجر به خروجی دقیق تر و متنی تر می شود ، می دهد.با این حال ، مدل های یادگیری عمیق تا حد زیادی یک جعبه سیاه را نشان می دهند ، یعنی استدلال یا روند تصمیم گیری آنها را نمی توان با جزئیات درک کرد.در این مقاله بررسی شده است که آیا نمرات توجه یک مدل پیش بینی فعالیت بعدی مبتنی بر ترانسفورماتور می تواند به عنوان توضیحی برای تصمیم گیری خود باشد.ما می دانیم که نمرات توجه در مدل های پیش بینی فعالیت بعدی می تواند به عنوان توضیح دهنده عمل کند و از این واقعیت در دو رویکرد توضیح مبتنی بر نمودار استفاده کند.بینش های به دست آمده می تواند الهام بخش کار آینده در مورد بهبود مدل های پیش بینی فرآیند تجارت و همچنین امکان معدنکاری مبتنی بر شبکه عصبی از مدل های فرآیند از سیاهههای مربوط باشد.