ترجمه فارسی مقاله بررسی امکان‌پذیری آشکارسازهای نفرت‌پراکنی و ضدگفتار با هوش مصنوعی قابل توضیح

چکیده

In this paper we investigate the explainability of transformer models and their plausibility for hate speech and counter speech detection. We compare representatives of four different explainability approaches, i.e., gradient-based, perturbation-based, attention-based, and prototype-based approaches, and analyze them quantitatively with an ablation study and qualitatively in a user study. Results show that perturbation-based explainability performs best, followed by gradient-based and attention-based explainability. Prototypebased experiments did not yield useful results. Overall, we observe that explainability strongly supports the users in better understanding the model predictions.

چکیده به فارسی (ترجمه ماشینی)

در این مقاله توضیحات مدل های ترانسفورماتور و محتمل بودن آنها برای گفتار نفرت و تشخیص ضد گفتار را بررسی می کنیم.ما نمایندگان چهار رویکرد توضیحات مختلف ، یعنی رویکردهای مبتنی بر شیب ، مبتنی بر آشفتگی ، مبتنی بر توجه و نمونه اولیه را با هم مقایسه می کنیم و آنها را با یک مطالعه فرسایش و از نظر کیفی در یک مطالعه کاربر کمی تجزیه و تحلیل می کنیم.نتایج نشان می دهد که توضیح مبتنی بر آشفتگی بهترین عملکرد را انجام می دهد ، و به دنبال آن توضیح مبتنی بر گرادیان و مبتنی بر توجه.آزمایش های نمونه اولیه نتایج مفیدی به همراه نداشت.به طور کلی ، ما مشاهده می کنیم که توضیح پذیری به شدت از کاربران در درک بهتر پیش بینی های مدل پشتیبانی می کند.