فلش‌کارت‌های آموزشی تبیین محلی در مدل‌های یادگیری عمیق: درک و تفسیر پیش‌بینی‌ها

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تبیین محلی در مدل‌های یادگیری عمیق: درک و تفسیر پیش‌بینی‌ها

موضوع کلی: هوش مصنوعی و یادگیری عمیق

موضوع میانی: تفسیرپذیری مدل‌های یادگیری عمیق

📋 سرفصل‌های دوره

• 1. مبانی یادگیری عمیق و نیاز به تفسیرپذیری
• 2. مقدمه‌ای بر مدل‌های یادگیری عمیق
• 3. شبکه‌های عصبی پرسپترون چندلایه
• 4. شبکه‌های عصبی کانولوشنال
• 5. شبکه‌های عصبی بازگشتی
• 6. مبانی یادگیری با نظارت و بدون نظارت
• 7. معیارهای ارزیابی مدل‌های یادگیری عمیق
• 8. چالش‌های جعبه سیاه در مدل‌های یادگیری عمیق
• 9. اهمیت تفسیرپذیری در کاربردهای حساس
• 10. مفاهیم کلیدی در تفسیرپذیری مدل‌ها
• 11. تفسیرپذیری در مقابل قابلیت تفسیر
• 12. روش‌های کلی تفسیرپذیری
• 13. تفسیرپذیری جهانی در مقابل محلی
• 14. روش‌های مبتنی بر ویژگی (Feature-based methods)
• 15. روش‌های مبتنی بر نمونه (Example-based methods)
• 16. روش‌های مبتنی بر جایگزین (Surrogate methods)
• 17. روش‌های مبتنی بر جایگزین ساده (Simpler surrogate models)
• 18. تفسیرپذیری محلی: تعریف و اهمیت
• 19. تمرکز بر پیش‌بینی‌های منفرد
• 20. تکنیک‌های تفسیرپذیری محلی
• 21. تحلیل اهمیت ویژگی (Feature Importance Analysis)
• 22. روش LIME (Local Interpretable Model-agnostic Explanations)
• 23. نحوه عملکرد LIME
• 24. مزایا و معایب LIME
• 25. کاربردهای LIME در حوزه‌های مختلف
• 26. روش SHAP (SHapley Additive exPlanations)
• 27. مبانی نظری SHAP
• 28. محاسبه مقادیر SHAP
• 29. تفسیر مقادیر SHAP
• 30. نمودارهای SHAP (SHAP plots)
• 31. مزایا و معایب SHAP
• 32. کاربردهای SHAP در حوزه‌های مختلف
• 33. روش‌های مبتنی بر گرادیان (Gradient-based methods)
• 34. تفسیرپذیری مبتنی بر گرادیان برای CNN ها
• 35. روش Saliency Maps
• 36. روش Gradient * Input
• 37. روش Integrated Gradients
• 38. روش Grad-CAM (Gradient-weighted Class Activation Mapping)
• 39. نحوه عملکرد Grad-CAM
• 40. کاربردهای Grad-CAM در تصاویر
• 41. روش‌های مبتنی بر Perturbation
• 42. روش Occlusion Sensitivity
• 43. روش LRP (Layer-wise Relevance Propagation)
• 44. مبانی LRP
• 45. تفسیر نتایج LRP
• 46. روش‌های مبتنی بر ارتباط (Relevance methods)
• 47. روش DeepLIFT
• 48. مبانی DeepLIFT
• 49. مقایسه DeepLIFT با Integrated Gradients
• 50. روش Anchor Explanations
• 51. مبانی Anchor Explanations
• 52. کاربرد Anchor Explanations
• 53. روش Counterfactual Explanations
• 54. مفهوم توضیحات پادواقعی (Counterfactuals)
• 55. تولید توضیحات پادواقعی
• 56. کاربردهای توضیحات پادواقعی
• 57. تفسیرپذیری در شبکه‌های عصبی بازگشتی (RNNs)
• 58. چالش‌های تفسیرپذیری در RNNs
• 59. روش‌های خاص برای تفسیرپذیری RNNs
• 60. تفسیرپذیری در مدل‌های ترنسفورمر (Transformers)
• 61. مفاهیم attention در ترنسفورمرها
• 62. تفسیر مکانیزم attention
• 63. تفسیرپذیری در مدل‌های گراف (Graph Neural Networks)
• 64. چالش‌های تفسیرپذیری در GNNs
• 65. روش‌های خاص برای تفسیرپذیری GNNs
• 66. ارزیابی کیفیت توضیحات
• 67. معیارهای کمی برای ارزیابی
• 68. معیارهای کیفی برای ارزیابی
• 69. ارزیابی انسانی توضیحات
• 70. چالش‌های ارزیابی توضیحات
• 71. کاربردهای عملی تفسیرپذیری مدل‌ها
• 72. تفسیرپذیری در تشخیص پزشکی
• 73. تفسیرپذیری در سیستم‌های توصیه گر
• 74. تفسیرپذیری در تشخیص تقلب مالی
• 75. تفسیرپذیری در خودروهای خودران
• 76. تفسیرپذیری در پردازش زبان طبیعی
• 77. مسائل اخلاقی در تفسیرپذیری مدل‌ها
• 78. حریم خصوصی و تفسیرپذیری
• 79. مسئولیت‌پذیری در پیش‌بینی‌های مدل‌ها
• 80. تفسیرپذیری و عدالت الگوریتمی
• 81. روش‌های حفظ حریم خصوصی در تفسیرپذیری
• 82. ملاحظات امنیتی در تفسیرپذیری
• 83. تفسیرپذیری و اعتماد به سیستم‌های هوش مصنوعی
• 84. تفسیرپذیری و قابلیت اطمینان
• 85. تفسیرپذیری و شفافیت
• 86. موضوعات تحقیقاتی آینده در تفسیرپذیری
• 87. تفسیرپذیری در مدل‌های مولد
• 88. تفسیرپذیری در یادگیری تقویتی
• 89. تفسیرپذیری تعاملی (Interactive Explainability)
• 90. تفسیرپذیری در زمان واقعی (Real-time Explainability)
• 91. تفسیرپذیری برای کاربران غیرمتخصص
• 92. تفسیرپذیری در چارچوب قوانین و مقررات
• 93. استانداردسازی روش‌های تفسیرپذیری
• 94. پلتفرم‌ها و ابزارهای تفسیرپذیری
• 95. پروژه‌های متن‌باز در تفسیرپذیری
• 96. چالش‌های پیاده‌سازی عملی تفسیرپذیری
• 97. ملاحظات فرهنگی در تفسیرپذیری
• 98. نکات پایانی و جمع‌بندی مباحث
• 99. مسیرهای یادگیری بیشتر در تفسیرپذیری