فلش‌کارت‌های آموزشی مهندسی پرامپت و تنظیم دقیق مدل‌های ترنسفورمر

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مهندسی پرامپت و تنظیم دقیق مدل‌های ترنسفورمر

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: شبکه‌های عصبی ترنسفورمر (Transformer Networks)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌های زبانی بزرگ (LLM) و ترنسفورمرها
• 2. معماری ترنسفورمر: یک نمای کلی
• 3. مکانیسم توجه (Attention Mechanism): قلب تپنده ترنسفورمرها
• 4. خود-توجهی (Self-Attention): درک روابط در داده‌ها
• 5. توجه چند-سر (Multi-Head Attention): افزایش قدرت مدل
• 6. انکودر-دیکودر ترنسفورمر: ساختار کلی
• 7. موقعیت‌یابی (Positional Encoding): افزودن اطلاعات مکانی
• 8. لایه‌های Feed Forward و نرمال‌سازی لایه (Layer Normalization)
• 9. مقدمه‌ای بر مهندسی پرامپت
• 10. اهمیت پرامپت در عملکرد LLMها
• 11. انواع پرامپت: Zero-shot، One-shot، Few-shot
• 12. طراحی پرامپت‌های موثر: اصول کلیدی
• 13. الگوهای پرامپت: Chain-of-Thought، ReAct
• 14. مهندسی پرامپت برای وظایف مختلف: خلاصه‌سازی
• 15. مهندسی پرامپت برای وظایف مختلف: ترجمه
• 16. مهندسی پرامپت برای وظایف مختلف: تولید محتوا
• 17. مهندسی پرامپت برای وظایف مختلف: پاسخگویی به سوالات
• 18. تکنیک‌های پیشرفته مهندسی پرامپت: Prompt Chaining
• 19. تکنیک‌های پیشرفته مهندسی پرامپت: Knowledge Generation
• 20. ارزیابی کیفیت پرامپت‌ها
• 21. معرفی تنظیم دقیق (Fine-tuning)
• 22. چرا تنظیم دقیق؟ مزایا و معایب
• 23. مجموعه داده‌ها برای تنظیم دقیق: جمع‌آوری و آماده‌سازی
• 24. فرمت‌بندی داده‌ها برای تنظیم دقیق
• 25. تنظیم دقیق با استفاده از کتابخانه‌های پایتون (Transformers, PyTorch/TensorFlow)
• 26. انتخاب هایپرپارامترها برای تنظیم دقیق
• 27. معیارهای ارزیابی تنظیم دقیق: Loss، دقت، F1-score
• 28. تنظیم دقیق برای وظایف طبقه‌بندی متن
• 29. تنظیم دقیق برای وظایف تولید متن
• 30. تنظیم دقیق با استفاده از روش‌های یادگیری انتقالی (Transfer Learning)
• 31. تنظیم دقیق با استفاده از روش‌های یادگیری با تقویت (Reinforcement Learning)
• 32. تکنیک‌های پیشرفته تنظیم دقیق: LoRA (Low-Rank Adaptation)
• 33. تکنیک‌های پیشرفته تنظیم دقیق: PEFT (Parameter-Efficient Fine-Tuning)
• 34. مدیریت منابع محاسباتی در تنظیم دقیق
• 35. مقایسه تنظیم دقیق و مهندسی پرامپت
• 36. بهینه‌سازی مدل‌های ترنسفورمر تنظیم‌شده
• 37. استقرار مدل‌های ترنسفورمر تنظیم‌شده
• 38. ابزارهای استقرار مدل: Docker, Kubernetes
• 39. نظارت و نگهداری مدل‌های ترنسفورمر
• 40. چالش‌ها و ملاحظات اخلاقی در استفاده از LLMها
• 41. آینده مهندسی پرامپت و تنظیم دقیق
• 42. مطالعه موردی: تنظیم دقیق یک مدل برای تحلیل احساسات
• 43. مطالعه موردی: مهندسی پرامپت برای یک ربات چت