فلش‌کارت‌های آموزشی شبکه‌های عصبی برای درک مطلب و تولید متن

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره شبکه‌های عصبی برای درک مطلب و تولید متن

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی مصنوعی (Artificial Neural Networks)

📋 سرفصل‌های دوره

• 1. مفاهیم پایهٔ شبکه‌های عصبی مصنوعی
• 2. نورون مصنوعی، لایه‌ها و جریان داده
• 3. انتخاب تابع فعال‌سازی
• 4. انتشار رو به جلو و استخراج پیش‌بینی
• 5. تعریف تابع هدف و خطا
• 6. بازگشت خطا و محاسبهٔ گرادیان
• 7. نقش گرادیان نزولی در آموزش
• 8. بهینه‌سازهای SGD و خانوادهٔ آن‌ها
• 9. پیشگیری از بیش‌برازش
• 10. نرمال‌سازی دسته‌ای و لاینرم
• 11. راه‌اندازی وزن‌ها و پایداری آموزش
• 12. طراحی مجموعه‌داده، تقسیم‌بندی و افزایش داده
• 13. نمایندگی واژگان با Embedding
• 14. Embeddingهای زمینه‌مند
• 15. کدگذاری موقعیت
• 16. Tokenization و مدل‌های زیرواژه‌ای
• 17. مدل‌های دنباله‌ای RNN، LSTM و GRU
• 18. محدودیت پردازش ترتیبی و نیاز به توجه
• 19. توجه مقیاس‌پذیر
• 20. Self-attention و محاسبهٔ شباهت زمینه‌ای
• 21. توجه چندسر و نمایش چندوجهی ویژگی‌ها
• 22. معماری Encoder-only Transformer
• 23. معماری Decoder-only Transformer
• 24. معماری Encoder–Decoder Transformer
• 25. نقش Residual Connection و Layer Normalization
• 26. نشانگرهای ماسک در پردازش دنباله
• 27. مقیاس‌گذاری عمق، پهنای شبکه و منابع محاسباتی
• 28. هدف آموزش مدل زبانی با پیش‌بینی توکن بعدی
• 29. پیش‌بینی Masked Tokens و آموزش Encoder
• 30. مدل‌سازی Sequence-to-Sequence و توجه متقاطع
• 31. ساخت و پاک‌سازی داده‌های آموزشی
• 32. تأثیر کیفیت، تنوع و توازن داده
• 33. آموزش مقیاس‌بنا و مدیریت حافظه
• 34. پایداری همگرایی، نرخ یادگیری و نویز
• 35. یادگیری انتقالی از پیش‌آموزش تا کاربرد
• 36. فاین‌تونیگ نظارت‌شده برای وظایف خاص
• 37. فاین‌تونیگ دستورمحور و همسوسازی پاسخ
• 38. روش‌های کم‌هزینهٔ Fine-tuning مانند LoRA
• 39. تطبیق دامنه و یادگیری مستمر
• 40. تنظیم هیپرپارامترهای آموزش
• 41. استنتاج کارآمد با Cache و بهینه‌سازی حافظه
• 42. مدل‌های درک مطلب و استخراج معنا از متن
• 43. طبقه‌بندی متن و تحلیل احساسات
• 44. برداشت نام‌های خاص و برچسب‌گذاری ساختارمند
• 45. پاسخ‌گویی سؤال‌محور، استخراجی و مولد
• 46. تشخیص رابطهٔ استنتاجی میان متن‌ها
• 47. سنجش شباهت و هم‌معنایی معنایی
• 48. ارزیابی دقت، فراخوانی و F1 در درک مطلب
• 49. سنجش پایداری در برابر ابهام و جابه‌جایی دامنه
• 50. خطاهای سیستماتیک در مدل‌های درک مطلب
• 51. تولید خودتنفسی و مدل‌سازی توزیع متن
• 52. راهبردهای Decoding: Greedy، Beam و Sampling
• 53. کنترل تصادمی‌بودن با Temperature و Top-p
• 54. تولید ساختاریافته و خروجی قیدشده
• 55. مهندسی Prompt و مدیریت زمینه
• 56. افزایش پنجرهٔ زمینه و مدل‌های Long-context
• 57. بازجست‌وجوی تقویت‌شده با مدل (RAG)
• 58. کاهش توهم و بهبود واقع‌محوری
• 59. خلاصه‌سازی، بازنویسی و گفت‌وگوی چندمرحله‌ای
• 60. ارزیابی روان‌بودن، صحت و کامل‌بودن متن
• 61. ارزیابی انسانی و مقایسهٔ مدل‌های مولد
• 62. کاهش سوگیری، محتوای مضر و ریسک‌های همسوسازی
• 63. حفاظت از حریم خصوصی و نشت داده‌های آموزشی
• 64. پایداری در برابر حمله‌های Adversarial و Prompt Injection
• 65. تفسیرپذیری، تحلیل Attention و محدودیت آن
• 66. عیب‌یابی شکست‌های مدل با تحلیل نمونه
• 67. فشرده‌سازی، Quantization و Distillation
• 68. مهندسی سرویس، Latency و Throughput
• 69. مانیتورینگ Drift و بازخورد کاربران
• 70. طراحی، آموزش و ارزیابی یک پایپ‌لاین کامل