فلش‌کارت‌های آموزشی Hugging Face Transformers: عصر جدید مدل‌های زبانی پیشرفته

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره Hugging Face Transformers: عصر جدید مدل‌های زبانی پیشرفته

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: کتابخانه‌های NLP (NLTK, spaCy, Hugging Face Transformers)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر کتابخانه Hugging Face Transformers و انقلاب مدل‌های زبانی بزرگ
• 2. نصب، راه‌اندازی و آشنایی با معماری کلی اکوسیستم Hugging Face
• 3. آشنایی با مفهوم توکنایزرها (Tokenizers) و تفاوت‌های توکنایزیشن در مدل‌های مختلف
• 4. استفاده از کلاس AutoTokenizer برای آماده‌سازی متن ورودی مدل
• 5. بررسی مفاهیم پایه پایپ‌لاین‌ها (Pipelines) برای انجام سریع وظایف NLP
• 6. پیاده‌سازی تحلیل احساسات (Sentiment Analysis) با استفاده از پایپ‌لاین‌های آماده
• 7. استخراج اطلاعات، نام‌های خاص (NER) و پاسخگویی به سوالات با ابزارهای آماده
• 8. آشنایی عمیق با معماری ترنسفورمر (Transformer Architecture) و مکانیزم توجه (Attention)
• 9. بارگذاری مدل‌های از پیش آموزش‌دیده (Pre-trained Models) با کلاس AutoModel
• 10. بررسی ساختار خروجی مدل‌ها و استخراج hidden states و attention weights
• 11. استفاده از کتابخانه Datasets برای بارگذاری، مدیریت و پیش‌پردازش مجموعه‌داده‌ها
• 12. اعمال توکنایزر روی مجموعه‌داده‌های حجیم با استفاده از تابع map در Datasets
• 13. مفاهیم پایه تنظیم دقیق (Fine-Tuning) مدل‌های زبانی برای کاربردهای اختصاصی
• 14. استفاده از کلاس Trainer برای آموزش و تنظیم دقیق مدل‌ها با کمترین کدنویسی
• 15. تنظیم هایپوپرامترها، نرخ یادگیری و بهینه‌سازها در فرآیند Fine-Tuning
• 16. مدیریت حافظه GPU و تکنیک‌های بهینه‌سازی آموزش مدل‌های بزرگ
• 17. تنظیم دقیق مدل برای دسته‌بندی متن (Text Classification) روی داده‌های سفارشی
• 18. پیاده‌سازی مدل‌های پاسخگویی به سوالات (Question Answering) به روش Fine-Tuning
• 19. تولید متن خلاقانه و ترجمه ماشینی با استفاده از مدل‌های Sequence-to-Sequence
• 20. ارزیابی عملکرد مدل‌ها با معیارهای استاندارد مانند BLEU، ROUGE و Accuracy
• 21. آشنایی با تکنیک‌های کم‌دقت (Quantization) و کوانتیزه کردن مدل‌ها برای کاهش حجم
• 22. استفاده از روش‌های LoRA و PEFT برای تنظیم دقیق کارآمد پارامترها (Parameter-Efficient Fine-Tuning)
• 23. مدیریت و به اشتراک‌گذاری مدل‌ها و دیستربیوشن‌ها در Hugging Face Hub
• 24. استفاده از ابزار Accelerate برای آموزش توزیع‌شده مدل‌ها روی چند GPU
• 25. بهینه‌سازی استنتاج (Inference) و افزایش سرعت پردازش مدل‌ها در محیط تولید
• 26. پروژه عملی اول: ساخت و تنظیم دقیق یک مدل دسته‌بندی متن سفارشی با Hugging Face
• 27. پروژه عملی دوم: پیاده‌سازی، کوانتیزاسیون و استقرار نهایی یک مدل زبانی پیشرفته در محیط تولید