کتاب صوتی آشنایی با سخت‌افزارهای مورد نیاز برای یادگیری عمیق (GPU, TPU)

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره آشنایی با سخت‌افزارهای مورد نیاز برای یادگیری عمیق (GPU, TPU)

موضوع کلی: برنامه نویسی

موضوع میانی: یادگیری عمیق (Deep Learning)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر یادگیری عمیق: چرا و چگونه؟
• 2. مفاهیم اساسی در شبکه‌های عصبی عمیق
• 3. انقلاب یادگیری عمیق و نیاز به سخت‌افزارهای قدرتمند
• 4. چرا CPU برای یادگیری عمیق کافی نیست؟
• 5. مروری بر چالش‌های محاسباتی در یادگیری عمیق
• 6. آشنایی با سخت‌افزارهای تخصصی برای یادگیری عمیق
• 7. نقش GPU و TPU در شتاب‌دهی به آموزش مدل‌ها
• 8. معماری سنتی کامپیوتر: CPU و اجزای آن
• 9. مفهوم پردازش موازی: ضرورت در محاسبات مدرن
• 10. انواع موازی‌سازی: بیت، دستورالعمل، داده و وظیفه
• 11. حافظه و سلسله مراتب آن در سیستم‌های کامپیوتری
• 12. گذرگاه‌ها (Bus) و پهنای باند: اهمیت در انتقال داده
• 13. معرفی پردازنده‌های گرافیکی (GPU): از رندرینگ تا محاسبات
• 14. تفاوت‌های بنیادین بین CPU و GPU
• 15. معماری SIMD و SIMT: اصول پردازش موازی در GPU
• 16. مزایای GPU در محاسبات سنگین ماتریسی
• 17. سیر تکاملی GPUها در محاسبات عمومی (GPGPU)
• 18. معماری کلی GPU: واحدهای اصلی و ارتباطات
• 19. هسته‌های CUDA: واحد پردازش پایه در GPUهای انویدیا
• 20. Streaming Multiprocessor (SM): قلب پردازشی GPU
• 21. مفهوم Warp و Block در معماری CUDA
• 22. Grid و نحوه سازماندهی وظایف در GPU
• 23. سلسله مراتب حافظه در GPU: مروری جامع
• 24. حافظه جهانی (Global Memory): بزرگترین و کندترین
• 25. حافظه مشترک (Shared Memory): سریع و قابل برنامه‌ریزی
• 26. رجیسترها و حافظه کش (L1/L2): سرعت و نزدیکی به هسته‌ها
• 27. بافر تکسچر (Texture Memory) و بافر ثابت (Constant Memory)
• 28. پهنای باند حافظه و تأثیر آن بر عملکرد
• 29. GDDR5, GDDR6, HBM: انواع حافظه‌های GPU
• 30. معرفی Tensor Cores: جهشی برای هوش مصنوعی
• 31. عملکرد Tensor Cores در عملیات ماتریسی با دقت پایین
• 32. تأثیر Tensor Cores بر سرعت آموزش مدل‌ها
• 33. معماری‌های GPU انویدیا: از پاسکال تا هوپر (Pascal, Volta, Turing, Ampere, Hopper)
• 34. ویژگی‌های خاص معماری وُلطا (Volta) و Tensor Cores
• 35. بهبودهای معماری آمپر (Ampere) و پردازش A100
• 36. معرفی Hopper و H100: عصر جدید GPUهای داده‌محور
• 37. GPUهای مصرف‌کننده (GeForce): کاربردها و محدودیت‌ها
• 38. GPUهای حرفه‌ای (Quadro): دقت و قابلیت اطمینان
• 39. GPUهای دیتاسنتر (Tesla, A-series, H-series): قدرت و مقیاس‌پذیری
• 40. رابط اتصال PCIe: استانداردهای نسل‌های مختلف (PCIe 3.0, 4.0, 5.0)
• 41. NVLink: اتصال پرسرعت GPU به GPU و GPU به CPU
• 42. مزایای NVLink در سیستم‌های چند GPU
• 43. مصرف انرژی و مدیریت حرارت در GPUها
• 44. سیستم‌های خنک‌کننده فعال و غیرفعال برای GPU
• 45. ارزیابی عملکرد GPU: معیارهای کلیدی
• 46. نرم‌افزارهای پشته (Software Stack) برای GPU: CUDA و OpenCL
• 47. درایورهای GPU و اهمیت به‌روزرسانی آن‌ها
• 48. کتابخانه‌های اساسی CUDA: cuBLAS, cuFFT, cuDNN
• 49. cuDNN: شتاب‌دهنده شبکه‌های عصبی عمیق
• 50. TensorRT: بهینه‌سازی استنتاج (Inference) روی GPU
• 51. معرفی TPU: پردازنده‌های اختصاصی گوگل برای هوش مصنوعی
• 52. انگیزه گوگل برای ساخت TPU: نیازهای داخلی و مقیاس‌پذیری
• 53. مفهوم پردازنده‌های شتاب‌دهنده (Accelerator)
• 54. معماری systolic array: قلب تپنده TPU
• 55. مزایای systolic array در ضرب ماتریس
• 56. واحد ضرب ماتریس (Matrix Multiply Unit - MXU) در TPU
• 57. MXU: انجام هزاران عملیات ضرب و جمع در یک چرخه
• 58. سلسله مراتب حافظه در TPU
• 59. حافظه On-chip و نقش آن در کاهش تأخیر
• 60. High Bandwidth Memory (HBM) در TPU
• 61. TPU v1: اولین نسل، تمرکز بر استنتاج
• 62. TPU v2: معرفی برای آموزش مدل‌ها و پردازش دقیق‌تر
• 63. TPU v3: افزایش قدرت و خنک‌کنندگی مایع
• 64. TPU v4: بهبود کارایی و بهره‌وری انرژی
• 65. TPU v5: آخرین نسل و قابلیت‌های جدید
• 66. پیکربندی TPU ها: از چیپ تا پاد (Pod)
• 67. Cloud TPU: دسترسی و استفاده از TPU در فضای ابری
• 68. GKE و TPU: ترکیب کانتینرها و سخت‌افزار اختصاصی
• 69. Pytorch/JAX و TensorFlow با TPU: نحوه ادغام
• 70. مزایای TPU در بارهای کاری خاص یادگیری عمیق
• 71. محدودیت‌های TPU در مقایسه با GPU
• 72. مصرف انرژی و خنک‌کنندگی TPU
• 73. مدیریت و مانیتورینگ TPU در Cloud Console
• 74. مقایسه جامع CPU، GPU و TPU: نقاط قوت و ضعف
• 75. معیارهای انتخاب سخت‌افزار مناسب برای یادگیری عمیق
• 76. بودجه و هزینه: تأثیر آن در انتخاب GPU یا TPU
• 77. نوع و اندازه مدل: کدام سخت‌افزار بهتر است؟
• 78. زمان آموزش (Training Time) و اهمیت آن
• 79. سرعت استنتاج (Inference Speed) و کاربردهای آن
• 80. انعطاف‌پذیری سخت‌افزار: GPU در مقابل TPU
• 81. اکوسیستم نرم‌افزاری: CUDA در مقابل TensorFlow/JAX
• 82. انتخاب سخت‌افزار برای تحقیق و توسعه در مقابل تولید
• 83. استفاده از سخت‌افزارهای ابری (Cloud Computing) برای DL
• 84. معرفی سرویس‌های GPU در AWS (EC2 Instances)
• 85. معرفی سرویس‌های GPU در GCP (Compute Engine, AI Platform)
• 86. معرفی سرویس‌های GPU در Azure (VMs, Azure Machine Learning)
• 87. دسترسی به TPU در Google Cloud Platform
• 88. استفاده از GPU‌های ابری برای پروژه‌های کوچک و متوسط
• 89. شتاب‌دهنده‌های دیگر: FPGA و ASICs اختصاصی
• 90. Tensor Processing Units دیگر شرکت‌ها (مثلاً Huawei Ascend)
• 91. محاسبات با دقت پایین (Mixed Precision Training) در GPU و TPU
• 92. مزایای دقت پایین در سرعت و مصرف حافظه
• 93. آموزش توزیع شده (Distributed Training) روی چندین GPU
• 94. موازی‌سازی داده (Data Parallelism) و موازی‌سازی مدل (Model Parallelism)
• 95. استفاده از Docker و Singularity برای محیط‌های DL با GPU/TPU
• 96. مانیتورینگ عملکرد سخت‌افزار: ابزارهایی مانند `nvidia-smi`
• 97. انتخاب منبع تغذیه (PSU) مناسب برای سیستم‌های GPU محور
• 98. خنک‌سازی پیشرفته برای دکل‌های یادگیری عمیق
• 99. بهینه‌سازی کد پایتون برای بهره‌برداری حداکثری از GPU/TPU
• 100. آینده سخت‌افزارهای یادگیری عمیق و روندهای آتی