کتاب صوتی معماری‌های Vision Transformer برای پردازش تصویر

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره معماری‌های Vision Transformer برای پردازش تصویر

موضوع کلی: یادگیری عمیق و کاربردهای آن

موضوع میانی: معماری‌های نوظهور در یادگیری عمیق

📋 سرفصل‌های دوره

• 1. معماری‌های Vision Transformer برای پردازش تصویر
• 2. مقدمه‌ای بر شبکه‌های عصبی کانولوشنی و محدودیت‌ها
• 3. مفهوم Transformer و مکانیسم توجه
• 4. خود-توجه (Self-Attention) در جزئیات فنی
• 5. ماتریس‌های Query، Key و Value
• 6. محاسبه وزن‌های توجه
• 7. توجه چندگانه (Multi-Head Attention)
• 8. موقعیت‌یابی در Transformerها
• 9. رمزگذارها و رمزگشاها در معماری Transformer
• 10. Vision Transformer (ViT): معماری پایه
• 11. تقسیم‌بندی تصویر به پچ‌ها
• 12. تبدیل پچ‌ها به بردارها
• 13. اضافه کردن موقعیت‌یابی به پچ‌ها
• 14. لایه Embedding در ViT
• 15. تفاوت ViT با Transformerهای متنی
• 16. معماری Data-free Knowledge Distillation
• 17. آموزش ViT: جزئیات و چالش‌ها
• 18. تنظیم دقیق (Fine-tuning) ViT
• 19. انواع مختلف ViT: معرفی و مقایسه
• 20. DeiT: آموزش بدون نیاز به داده‌های برچسب‌گذاری شده
• 21. Swin Transformer: معرفی معماری و مزایا
• 22. پنجره‌های شیفت‌شده (Shifted Windows) در Swin Transformer
• 23. Hierarchical Feature Maps در Swin Transformer
• 24. تطبیق Swin Transformer با وظایف مختلف پردازش تصویر
• 25. CvT: Convolutional Vision Transformer
• 26. استفاده از لایه‌های کانولوشنی در ViT
• 27. Hybrid Architectures: ترکیب CNN و Transformer
• 28. Transformerهای حالت‌محور (State-space Models)
• 29. Long Range Arena (LRA): چالش‌های توجه دوربرد
• 30. Efficient Attention Mechanisms: کاهش پیچیدگی محاسباتی
• 31. Sparse Attention: تمرکز بر مهم‌ترین بخش‌های تصویر
• 32. Global Attention: درک کلی از تصویر
• 33. Local Attention: تمرکز بر جزئیات محلی
• 34. Axial Attention: کاهش ابعاد محاسباتی
• 35. Cross-Attention: ارتباط بین ویژگی‌های مختلف
• 36. استفاده از ViT در تشخیص اشیا
• 37. استفاده از ViT در Segmentation تصویر
• 38. استفاده از ViT در طبقه‌بندی تصویر
• 39. استفاده از ViT در Object Detection
• 40. استفاده از ViT در Image Captioning
• 41. بهینه‌سازی حافظه در ViT
• 42. کاهش مصرف انرژی در ViT
• 43. کاربردهای ViT در تصاویر پزشکی
• 44. کاربردهای ViT در تصاویر ماهواره‌ای
• 45. مقایسه ViT با سایر معماری‌های پردازش تصویر