فلش‌کارت‌های آموزشی NUTS: پل ارتباطی بین تئوری MCMC و کاربردهای عملی

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره NUTS: پل ارتباطی بین تئوری MCMC و کاربردهای عملی

موضوع کلی: روش‌های نمونه‌گیری مونت‌کارلو مارکوف (MCMC) در آمار بیزی

موضوع میانی: No-U-Turn Sampler (NUTS)

📋 سرفصل‌های دوره

• 1. مبانی و مفاهیم پایه‌ای استنباط بیزی و ضرورت استفاده از روش‌های MCMC
• 2. آشنایی با زنجیره‌های مارکوف و محدودیت‌های روش‌های سنتی مانند Metropolis-Hastings و Gibbs Sampling
• 3. مفاهیم پایه پویایی همیلتونین (Hamiltonian Dynamics) و فضای فاز در نمونه‌گیری
• 4. معرفی الگوریتم Hamiltonian Monte Carlo (HMC) و مزایا و معایب آن در نمونه‌گیری توزیع‌های پیچیده
• 5. نقش گرادیان تابع چگالی پسین در هدایت نمونه‌برداری کارآمد
• 6. چالش تنظیم پارامترهای حرکتی در HMC مانند اندازه گام (Step Size) و تعداد مراحل (Trajectory Length)
• 7. معرفی الگوریتم No-U-Turn Sampler (NUTS) به عنوان نسخه پیشرفته و خودکار HMC
• 8. مفهوم ساخت درخت دودویی (Recursive Binary Tree) در کاوش فضای پارامتر توسط NUTS
• 9. شرکت دادن شرط توقف U-turn برای جلوگیری از چرخش بیهوده در مسیرهای همیلتونین
• 10. تنظیم خودکار اندازه گام در طول دوره گرم کردن (Warmup) در NUTS
• 11. محاسبه انحراف مسیر و معیارهای پایداری عددی در انتگرال‌گیری هامیلتونی (Leapfrog Integrator)
• 12. بررسی جزئیات ریاضی و پیاده‌سازی الگوریتم بازگشتی ساخت درخت در NUTS
• 13. تشخیص واگرایی‌ها (Divergences) و عیب‌یابی مشکلات ژئومتری در فضای پسین
• 14. ارزیابی کارایی نمونه‌بردار با شاخص‌های Effective Sample Size (ESS) و R-hat
• 15. مقایسه عملکرد NUTS با سایر روش‌های MCMC در مدل‌های با ابعاد بالا
• 16. پیاده‌سازی الگوریتم NUTS در زبان‌های برنامه‌نویسی و کتابخانه‌های تخصصی بیزی
• 17. آشنایی با بستر محاسباتی Stan و استفاده از NUTS به عنوان موتور پیش‌فرض استنباط
• 18. استفاده از NUTS در فریمورک‌های مدرن پایتون مانند PyMC و NumPyro
• 19. مدل‌سازی سلسله‌مراتبی پیشرفته و رگرسیون‌های پیچیده با تکیه بر قدرت NUTS
• 20. بهینه‌سازی تنظیمات پیشرفته NUTS برای مدل‌های دارای مشکلات هم‌خطی و چگالی‌های دشوار
• 21. پروژه جامع: پیاده‌سازی، تحلیل و ارزیابی کامل یک مدل آماری پیچیده بیزی با استفاده از نمونه‌بردار NUTS