فلش‌کارت‌های آموزشی NUTS: فراتر از الگوریتم‌های سنتی MCMC

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره NUTS: فراتر از الگوریتم‌های سنتی MCMC

موضوع کلی: روش‌های نمونه‌گیری مونت‌کارلو مارکوف (MCMC) در آمار بیزی

موضوع میانی: No-U-Turn Sampler (NUTS)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر روش‌های نمونه‌برداری بیزی
• 2. مفاهیم پایه احتمال و آمار
• 3. نظریه احتمال شرطی و استقلال
• 4. قضایای اساسی احتمال
• 5. متغیرهای تصادفی و توزیع‌های احتمال
• 6. توزیع‌های گسسته و پیوسته
• 7. امید ریاضی و واریانس
• 8. توزیع‌های نرمال و کاربردهای آن
• 9. مفاهیم استنباط آماری
• 10. برآوردگرها و خواص آن‌ها
• 11. فاصله‌های اطمینان
• 12. آزمون فرض آماری
• 13. مقدمه‌ای بر زنجیره‌های مارکوف
• 14. فرایندهای مارکوف زمان‌گسسته
• 15. حالات گذار و احتمالات گذار
• 16. فضای حالت و ماتریس گذار
• 17. همگرایی زنجیره‌های مارکوف
• 18. تعادل ایستای زنجیره‌های مارکوف
• 19. مقدمه‌ای بر الگوریتم‌های MCMC
• 20. چرا MCMC؟
• 21. محدودیت‌های روش‌های نمونه‌برداری تحلیلی
• 22. نمونه‌برداری از توزیع‌های پیچیده
• 23. مفهوم فضای حالت و توزیع هدف
• 24. نمونه‌برداری از طریق گام‌های تصادفی
• 25. ارگودیسیته در MCMC
• 26. همگرایی الگوریتم‌های MCMC
• 27. کارایی الگوریتم‌های MCMC
• 28. معیارهای ارزیابی همگرایی
• 29. تشخیص همگرایی MCMC
• 30. روش‌های پس از همگرایی
• 31. نمونه‌برداری اولیه و اثرات آن
• 32. روش‌های کاهش همبستگی نمونه‌ها
• 33. نمونه‌برداری از مدل‌های آماری
• 34. مدل‌های خطی تعمیم‌یافته بیزی
• 35. مدل‌های سلسله‌مراتبی بیزی
• 36. کاربرد MCMC در مدل‌سازی
• 37. برنامه‌نویسی در MCMC
• 38. کتابخانه‌های MCMC (جاسازی شده در چارچوب مجاز)
• 39. پیاده‌سازی الگوریتم‌های پایه MCMC
• 40. روش نمونه‌برداری ریچاردسون-اسمیت (RS)
• 41. روش نمونه‌برداری گسیل (Gibbs Sampling)
• 42. نکات عملی در پیاده‌سازی گسیل
• 43. روش نمونه‌برداری متروپولیس-هستینگز (MH)
• 44. مراحل الگوریتم متروپولیس-هستینگز
• 45. انتخاب تابع پیشنهاد در MH
• 46. پیاده‌سازی متروپولیس-هستینگز
• 47. تفاوت MH و گسیل
• 48. ترکیب MH و گسیل
• 49. مقدمه‌ای بر MCMC پیشرفته
• 50. الگوریتم‌های MCMC با زمان پیوسته
• 51. روش‌های MCMC جهت‌دار (Hamiltonian Monte Carlo)
• 52. مفهوم انرژی پتانسیل و تکانه
• 53. معادلات حرکت در HMC
• 54. انتگرال‌گیری عددی در HMC
• 55. تنظیم پارامترهای HMC
• 56. مزایا و معایب HMC
• 57. کاربرد HMC در شبکه‌های عصبی عمیق
• 58. روش‌های MCMC غیرموازی
• 59. روش‌های MCMC موازی
• 60. نمونه‌برداری از توزیع‌های چندوجهی
• 61. روش‌های نمونه‌برداری تطبیقی
• 62. الگوریتم‌های MCMC با حافظه (Memory-based MCMC)
• 63. روش‌های MCMC مبتنی بر گرادیان
• 64. انتگرال‌گیری از توابع پیچیده
• 65. روش‌های نمونه‌برداری از نواحی کم‌احتمال
• 66. بهبود کارایی MCMC
• 67. کاهش واریانس در MCMC
• 68. روش‌های بازنگری (Resampling)
• 69. نمونه‌برداری از مجموعه‌ای از توزیع‌ها
• 70. مقدمه‌ای بر NUTS
• 71. چالش‌های الگوریتم‌های MCMC سنتی
• 72. نیاز به تنظیم پارامترهای دقیق
• 73. مشکلات همگرایی در فضاهای با ابعاد بالا
• 74. محدودیت‌های HMC در تنظیم پارامتر
• 75. مفهوم گام‌های خودکار در NUTS
• 76. پویایی در NUTS
• 77. روش گام‌های خودکار (Automatic Step-size Adaptation)
• 78. پیمایش در فضای پارامترها با NUTS
• 79. استفاده از دینامیک هامیلتونی در NUTS
• 80. قانون توقف در NUTS
• 81. پیاده‌سازی NUTS
• 82. ساختار الگوریتم NUTS
• 83. مراحل جستجو در NUTS
• 84. تنظیم خودکار طول گام
• 85. مزایای NUTS نسبت به HMC
• 86. کاربرد NUTS در مدل‌های پیچیده
• 87. NUTS و مدل‌های سلسله‌مراتبی
• 88. NUTS و مدل‌های آماری پیشرفته
• 89. مقایسه NUTS با الگوریتم‌های MCMC دیگر
• 90. نکات عملی در استفاده از NUTS
• 91. ارزیابی نتایج NUTS
• 92. نمونه‌برداری از توزیع‌های واقعی با NUTS
• 93. کاربرد NUTS در علوم مختلف
• 94. محدودیت‌های NUTS
• 95. آینده پژوهش در NUTS
• 96. روش‌های موازی‌سازی NUTS
• 97. یادگیری ماشین بیزی با NUTS
• 98. داده‌کاوی بیزی با NUTS
• 99. پردازش زبان طبیعی با NUTS
• 100. بینایی ماشین با NUTS