فلش‌کارت‌های آموزشی ساختمان داده‌های مبتنی بر درخت تصمیم: Random Forest and Gradient Boosting Trees

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ساختمان داده‌های مبتنی بر درخت تصمیم: Random Forest and Gradient Boosting Trees

موضوع کلی: برنامه نویسی

موضوع میانی: الگوریتم‌ها و ساختمان داده‌ها

📋 سرفصل‌های دوره

• 1. درخت تصمیم: مفاهیم پایه و ساختار
• 2. انشعاب و گره‌های تصمیم درخت
• 3. شاخص ناخالصی جینی و آنتروپی
• 4. معیار بهره اطلاعاتی و کاهش واریانس
• 5. جلوگیری از بیش‌برازش در درخت تصمیم
• 6. هرس درخت و تنظیم عمق
• 7. مقدمه‌ای بر جنگل تصادفی
• 8. بوت‌استرپ و نمونه‌گیری تصادفی
• 9. روش بگینگ (Bagging) در جنگل تصادفی
• 10. انتخاب تصادفی ویژگی‌ها در هر گره
• 11. تشکیل مجموعه‌ای از درختان تصمیم
• 12. پیش‌بینی با رأی‌گیری و میانگین‌گیری
• 13. نقش تعداد درختان در دقت مدل
• 14. کاهش واریانس با جنگل تصادفی
• 15. مقایسه دقت درخت تکی و جنگل تصادفی
• 16. اهمیت ویژگی‌ها در جنگل تصادفی
• 17. نحوه محاسبه اهمیت ویژگی با Gini Importance
• 18. ماتریس درهم‌ریختگی و ارزیابی جنگل تصادفی
• 19. Hyperparameterهای کلیدی جنگل تصادفی
• 20. تنظیم max_depth و n_estimators
• 21. تنظیم min_samples_split و max_features
• 22. مقدمه‌ای بر بوستینگ (Boosting)
• 23. مفهوم یادگیری متوالی و وزن‌دهی
• 24. الگوریتم AdaBoost
• 25. ترکیب مدل‌های ضعیف در AdaBoost
• 26. بهبود خطا با AdaBoost
• 27. مقدمه‌ای بر Gradient Boosting
• 28. تابع زیان و گرادیان در Gradient Boosting
• 29. مراحل ساخت متوالی درختان در Gradient Boosting
• 30. نقش نرخ یادگیری در Gradient Boosting
• 31. تنظیم نرخ یادگیری و تعداد درختان
• 32. مفهوم شبه باقیمانده (Pseudo-Residual)
• 33. نحوه به‌روزرسانی پیش‌بینی با Gradient Boosting
• 34. مقایسه Gradient Boosting با جنگل تصادفی
• 35. Hyperparameterهای Gradient Boosting
• 36. تنظیم subsample برای تصادفی‌سازی
• 37. نقش max_depth در Gradient Boosting
• 38. مقدمه‌ای بر XGBoost
• 39. ویژگی‌های XGBoost: موازی‌سازی و منظم‌سازی
• 40. تنظیم gamma و lambda در XGBoost
• 41. مقدمه‌ای بر LightGBM
• 42. نمونه‌گیری مبتنی بر گرادیان (GOSS) در LightGBM
• 43. بسته‌بندی ویژگی (EFB) در LightGBM
• 44. مقدمه‌ای بر CatBoost
• 45. مدیریت داده‌های دسته‌ای در CatBoost
• 46. مقایسه عملکرد XGBoost و LightGBM و CatBoost
• 47. انتخاب الگوریتم بر اساس حجم داده و تعداد ویژگی‌ها
• 48. پیش‌بینی رگرسیون با Random Forest
• 49. پیش‌بینی رگرسیون با Gradient Boosting
• 50. طبقه‌بندی با Random Forest و Gradient Boosting
• 51. مدیریت داده‌های نامتعادل با وزن کلاس
• 52. ارزیابی مدل با Cross-Validation
• 53. منحنی یادگیری و تشخیص بیش‌برازش
• 54. تنظیم Hyperparameterها با Grid Search
• 55. تنظیم Hyperparameterها با Randomized Search
• 56. اهمیت مهندسی ویژگی در مدل‌های درختی
• 57. مدیریت مقادیر گمشده در Random Forest
• 58. مدیریت مقادیر گمشده در Gradient Boosting
• 59. کار با داده‌های متنی و عددی در درخت‌ها
• 60. پایپلاین کامل: از داده تا پیش‌بینی
• 61. ذخیره و بارگذاری مدل با Pickle و Joblib
• 62. مقایسه سرعت آموزش و پیش‌بینی الگوریتم‌ها
• 63. مقیاس‌پذیری مدل‌ها روی داده‌های بزرگ
• 64. مفهوم توقف زودهنگام (Early Stopping) در Gradient Boosting
• 65. پیاده‌سازی Random Forest با Scikit-Learn
• 66. پیاده‌سازی Gradient Boosting با Scikit-Learn
• 67. پیاده‌سازی XGBoost با کتابخانه XGBoost
• 68. پیاده‌سازی LightGBM با کتابخانه LightGBM
• 69. پیاده‌سازی CatBoost با کتابخانه CatBoost
• 70. مقایسه نتایج پیاده‌سازی روی یک مجموعه داده واقعی
• 71. تحلیل اهمیت ویژگی‌ها و تجسم درخت
• 72. تصمیم‌گیری برای انتخاب تعداد درختان بهینه
• 73. مدیریت حافظه و زمان در مدل‌های مبتنی بر درخت
• 74. کاربرد Random Forest در تشخیص ناهنجاری
• 75. کاربرد Gradient Boosting در رتبه‌بندی
• 76. محدودیت‌ها و چالش‌های مدل‌های درختی
• 77. راهکارهای بهبود دقت با Feature Engineering پیشرفته
• 78. خلاصه و جمع‌بندی نهایی