اپلیکیشن اندرویدی فلش‌کارت آموزشی درک عمیق ساختار و عملکرد LLMها

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره درک عمیق ساختار و عملکرد LLMها

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: مدل‌های زبانی بزرگ (LLMs) - مفاهیم و اصول**

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌های زبانی بزرگ (LLM)
• 2. تاریخچه و تکامل LLMها
• 3. معماری ترانسفورمر: بلوک‌های سازنده LLMها
• 4. مکانیسم توجه (Attention Mechanism) در LLMها
• 5. خود-توجه (Self-Attention) و نقش آن
• 6. توجه چند-سر (Multi-Head Attention)
• 7. انکودر-دیکودر در مدل‌های ترانسفورمر
• 8. Embedding لغات و توکن‌سازی
• 9. روش‌های مختلف توکن‌سازی (WordPiece, Byte Pair Encoding)
• 10. مدل‌های زبانی احتمالاتی
• 11. نحوه پیش‌بینی کلمه بعدی
• 12. تابع زیان (Loss Function) در LLMها
• 13. روش‌های بهینه‌سازی (Optimization) LLMها
• 14. Gradient Descent و انواع آن
• 15. Backpropagation در LLMها
• 16. Overfitting و Regularization در LLMها
• 17. اندازه‌گیری عملکرد LLMها (Perplexity, BLEU)
• 18. پیش‌آموزش (Pre-training) LLMها
• 19. Fine-tuning و انتقال یادگیری
• 20. مجموعه داده‌های بزرگ برای آموزش LLMها
• 21. مدل‌های زبانی خود-بازرس (Auto-regressive)
• 22. مدل‌های زبانی Masked Language Modeling
• 23. BERT و انواع آن
• 24. GPT و خانواده آن
• 25. T5 و معماری Unified Text-to-Text
• 26. مدل‌های زبانی چندزبانه (Multilingual LLMs)
• 27. چالش‌های LLMها: سوگیری (Bias) و انصاف
• 28. تکنیک‌های کاهش سوگیری در LLMها
• 29. تولید متن با LLMها: Decoding Strategies
• 30. Greedy Decoding
• 31. Beam Search
• 32. Sampling Methods (Temperature, Top-k, Nucleus)
• 33. ارزیابی کیفیت متن تولید شده
• 34. کنترل تولید متن (Controllable Generation)
• 35. Prompt Engineering: هنر طراحی درخواست‌ها
• 36. Promptهای موثر برای LLMها
• 37. Chain-of-Thought Prompting
• 38. Few-shot Learning و Zero-shot Learning
• 39. LLMها و استدلال (Reasoning)
• 40. LLMها و حافظه (Memory)
• 41. حافظه بلندمدت در LLMها
• 42. Vector Databases و LLMها
• 43. RAG (Retrieval-Augmented Generation)
• 44. دانش‌بنیان‌سازی LLMها
• 45. استفاده از LLMها در پردازش زبان طبیعی (NLP)
• 46. خلاصه‌سازی متن با LLMها
• 47. ترجمه ماشینی با LLMها
• 48. تولید پرسش و پاسخ با LLMها
• 49. تحلیل احساسات با LLMها
• 50. کاربردهای LLMها در صنعت
• 51. LLMها و امنیت: آسیب‌پذیری‌ها و حملات
• 52. جلوگیری از حملات Prompt Injection
• 53. اخلاق در LLMها و مسئولیت‌پذیری
• 54. آینده LLMها و گرایش‌های جدید