فلش‌کارت‌های آموزشی توسعه سفارشی مدل‌های زبانی با PyTorch

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره توسعه سفارشی مدل‌های زبانی با PyTorch

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: چارچوب‌های یادگیری عمیق (TensorFlow, PyTorch)

📋 سرفصل‌های دوره

• 1. مقدمه و مروری بر توسعه سفارشی مدل‌های زبانی
• 2. نصب PyTorch و تنظیم محیط توسعه
• 3. mfahim پایه یادگیری ماشین
• 4. mfahim یادگیری عمیق و شبکه‌های عصبی
• 5. ساختار تنسورها و محاسبات در PyTorch
• 6. پیش‌پردازش متن و نمونه‌سازی داده
• 7. بارگذاری داده با DataLoader
• 8. معماری‌های پایه شبکه (MLP, CNN)
• 9. معماری‌های تکراری برای متن (RNN, LSTM, GRU)
• 10. مدل‌های ترجمه و مکانیزم توجه
• 11. مدل‌های تولید متن (Language Model)
• 12. ساخت مدل سفارشی با nn.Module
• 13. تعریف تابع زیان (Loss Function)
• 14. انتخاب بهینه‌ساز (Optimizer)
• 15. regulation نرخ یادگیری و زمان‌بندی
• 16. تکنیک‌های منظم‌سازی (Dropout, Weight Decay)
• 17. افزایش داده (Data Augmentation)
• 18. حلقه آموزش (Training Loop)
• 19. ارزیابی مدل (Evaluation Metrics)
• 20. تحليل خطا و بهبود مدل
• 21. ذخیره و بارگذاری مدل
• 22. استفاده از GPU و تسریع آموزش
• 23. معریف Transformer و مکانیزم توجه
• 24. پیاده‌سازی Transformer از صفر
• 25. استفاده از مدل‌های پیش‌آموزش‌دیده (BERT, GPT)
• 26. Transfer Learning و Fine-tuning
• 27. سفارشی‌سازی معماری مدل
• 28. افزودن لایه‌های سفارشی
• 29. استفاده از توابع فعالیت سفارشی
• 30. کمی‌سازی مدل (Quantization)
• 31. استفاده از ONNX برای استفاده در محیط‌های دیگر
• 32. استفاده از TorchScript برای deploy
• 33. معریف PyTorch Lightning
• 34. استفاده از Lightning Trainer
• 35. لاگ‌گیری و مانیtorینگ (Weights & Biases)
• 36. تحليل خطاهای مدل و بهبود
• 37. بهینه‌سازی فرآیند آموزش (Hyperparameter Tuning)
• 38. استفاده از داده‌های چند‌کاربردی (Multi-task)
• 39. مدیریت حافظه GPU و بهینه‌سازی حافظه
• 40. استفاده از Distributed Training
• 41. آموزش چند‌کاربره (Multi-GPU)
• 42. مدل‌های چند‌زبانه (Multilingual)
• 43. مدل‌های چند‌مدال (Multimodal)
• 44. ارزیابی با معیارهای پیشرفته (BLEU, ROUGE, Perplexity)
• 45. استفاده از متریک‌های متن
• 46. تولید نمونه‌های متن با دیکودر
• 47. استفاده از Beam Search
• 48. استفاده از Sampling (Top-k, Top-p)
• 49. کنترل کیفیت تولید متن
• 50. استفاده از مدل‌های تکراری
• 51. پیاده‌سازی سیستم توصیه مبتنی بر متن
• 52. استفاده از مدل‌های ترکیبی (Hybrid)
• 53. استفاده از مدل‌های نسل‌بندی (Generative)
• 54. استفاده از مدل‌های آموزشی (Supervised)
• 55. استفاده از مدل‌های پیش‌بینی (Predictive)
• 56. استفاده از مدل‌های تشخیص (Detection)
• 57. استفاده از مدل‌های دسته‌بندی (Classification)
• 58. استفاده از مدل‌های رگرسیون (Regression)
• 59. استفاده از مدل‌های ترکیبی چند‌لایه
• 60. استفاده از مدل‌های پیشرفته (Advanced)