اپلیکیشن اندرویدی فلش‌کارت آموزشی آموزش عملی ساخت مدل‌های زبانی بزرگ با PyTorch

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره آموزش عملی ساخت مدل‌های زبانی بزرگ با PyTorch

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: چارچوب‌های یادگیری عمیق (TensorFlow, PyTorch)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌های زبانی بزرگ (LLM)
• 2. آشنایی با PyTorch: نصب و پیکربندی
• 3. تانسورها در PyTorch: مبانی و عملیات
• 4. گرادیان و پس‌انتشار (Backpropagation) در PyTorch
• 5. شبکه‌های عصبی پایه در PyTorch
• 6. مجموعه‌داده‌ها و پیش‌پردازش متن
• 7. ایجاد Dataset و DataLoader در PyTorch
• 8. Embedding لغات: Word2Vec و GloVe
• 9. Embedding لغات: FastText
• 10. شبکه‌های عصبی بازگشتی (RNN)
• 11. شبکه‌های LSTM و GRU در PyTorch
• 12. پیاده‌سازی یک مدل زبانی مبتنی بر RNN
• 13. مدل‌های توالی به توالی (Sequence-to-Sequence)
• 14. Attention Mechanism
• 15. Transformer: معرفی و معماری
• 16. Self-Attention در Transformer
• 17. پیاده‌سازی Transformer در PyTorch
• 18. مدل‌های Pre-trained: BERT
• 19. Fine-tuning مدل BERT با PyTorch
• 20. مدل‌های Pre-trained: GPT
• 21. Fine-tuning مدل GPT با PyTorch
• 22. تولید متن با مدل‌های زبانی
• 23. ارزیابی مدل‌های زبانی: Perplexity
• 24. ارزیابی مدل‌های زبانی: BLEU Score
• 25. بهینه‌سازی مدل‌های زبانی: Regularization
• 26. بهینه‌سازی مدل‌های زبانی: Dropout
• 27. بهینه‌سازی مدل‌های زبانی: Batch Normalization
• 28. یادگیری نرخ (Learning Rate) و زمان‌بندی آن
• 29. استفاده از GPU برای آموزش مدل‌ها
• 30. ذخیره و بارگذاری مدل‌های PyTorch
• 31. استقرار مدل‌های زبانی
• 32. TensorBoard: مانیتورینگ و تجسم آموزش
• 33. مدل‌های زبانی چندزبانه
• 34. مدل‌های زبانی برای تولید کد
• 35. مدل‌های زبانی برای خلاصه‌سازی متن
• 36. مدل‌های زبانی برای ترجمه ماشینی
• 37. تحقیق و توسعه در مدل‌های زبانی بزرگ