فلش‌کارت‌های آموزشی تکنیک‌های پیشرفته تفسیر LLMs: نگاهی به درون مدل

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره تکنیک‌های پیشرفته تفسیر LLMs: نگاهی به درون مدل

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: تفسیرپذیری (Interpretability) و توضیح‌پذیری (Explainability) در LLMs

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر تفسیرپذیری و توضیح‌پذیری در LLMها
• 2. چرا تفسیر LLMها مهم است؟ کاربردها و چالش‌ها
• 3. ارزیابی کیفیت تفسیرپذیری: معیارها و روش‌ها
• 4. مفاهیم کلیدی: توجه (Attention)، گرادیان، فعال‌سازی
• 5. روش‌های مبتنی بر توجه: Visualization of Attention
• 6. تحلیل ماتریس توجه: الگوها و بینش‌ها
• 7. Attention Rollout: درک جریان اطلاعات
• 8. Gradient-based Methods: Saliency Maps
• 9. Integrated Gradients: بهبود پایداری Saliency Maps
• 10. SmoothGrad: کاهش نویز در Saliency Maps
• 11. Layer-wise Relevance Propagation (LRP)
• 12. DeepLift: تشخیص مشارکت نورون‌ها
• 13. Feature Visualization: فعال‌سازی‌های لایه‌های میانی
• 14. Probing Tasks: ارزیابی دانش ضمنی مدل
• 15. Concept Activation Vectors (CAVs)
• 16. Network Dissection: شناسایی مفاهیم در نورون‌ها
• 17. Counterfactual Explanations: تغییرات برای تغییر پیش‌بینی
• 18. Adversarial Examples: آسیب‌پذیری و تفسیر
• 19. Influence Functions: شناسایی داده‌های آموزشی مهم
• 20. تفسیرپذیری در Embedding Space
• 21. Principal Component Analysis (PCA) برای Embeddingها
• 22. t-distributed Stochastic Neighbor Embedding (t-SNE) برای Embeddingها
• 23. UMAP برای Embeddingها
• 24. تحلیل خوشه‌ای (Clustering) Embeddingها
• 25. تفسیرپذیری در تولید متن: بررسی توکن‌ها
• 26. آزمایش Ablation: حذف و بررسی اجزای مدل
• 27. تفسیرپذیری مدل‌های ترنسفورمر: یک بررسی عمیق
• 28. تفسیرپذیری مدل‌های رمزگذار-رمزگشا (Encoder-Decoder)
• 29. تفسیرپذیری مدل‌های مبتنی بر حافظه (Memory-augmented Models)
• 30. تفسیرپذیری مدل‌های چندوجهی (Multimodal Models)
• 31. تفسیرپذیری مدل‌های بزرگ زبانی (LLMs) در حوزه‌ی سلامت
• 32. تفسیرپذیری LLMs در حوزه‌ی مالی
• 33. تفسیرپذیری LLMs در حوزه‌ی حقوقی
• 34. تفسیرپذیری LLMs در تشخیص اخبار جعلی
• 35. تفسیرپذیری LLMs در تشخیص سوگیری (Bias)
• 36. ابزارهای متن‌باز برای تفسیرپذیری LLMها
• 37. Captum: کتابخانه تفسیرپذیری PyTorch
• 38. SHAP: مقادیر شاپلی برای تفسیر مدل
• 39. LIME: توضیحات محلی دقیق
• 40. Alibi: کتابخانه تفسیرپذیری مدل‌های یادگیری ماشین
• 41. تفسیرپذیری LLMها: چالش‌ها و مسیرهای آینده