فلش‌کارت‌های آموزشی استنتاج کارآمد مدل‌های زبانی با LLMOPs و ONNX در C#

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره استنتاج کارآمد مدل‌های زبانی با LLMOPs و ONNX در C#

موضوع کلی: هوش مصنوعی و یادگیری ماشین

موضوع میانی: بهینه‌سازی مدل‌های زبانی بزرگ (LLMs)

📋 سرفصل‌های دوره

• 1. مقدمه‌ای بر مدل‌های زبانی بزرگ (LLMs)
• 2. مفاهیم پایه یادگیری ماشین
• 3. آشنایی با یادگیری عمیق
• 4. شبکه‌های عصبی و معماری‌های آن‌ها
• 5. مقدمه‌ای بر شبکه‌های ترنسفورمر
• 6. اجزای اصلی مدل‌های ترنسفورمر
• 7. تکامل مدل‌های زبانی بزرگ
• 8. معماری‌های پیشرفته LLM
• 9. روش‌های آموزش LLM
• 10. تنظیم دقیق (Fine-tuning) مدل‌های LLM
• 11. مقدمه‌ای بر استنتاج (Inference) مدل‌های LLM
• 12. چالش‌های استنتاج LLM
• 13. بهینه‌سازی استنتاج LLM
• 14. اهمیت بهینه‌سازی در LLM
• 15. مقدمه‌ای بر LLMOPs
• 16. اصول LLMOPs
• 17. کاربرد LLMOPs در استنتاج
• 18. معرفی Phi3 Vision 128k Instruct
• 19. ویژگی‌های Phi3 Vision 128k Instruct
• 20. ملاحظات امنیتی و اخلاقی در LLMها
• 21. مقدمه‌ای بر ONNX
• 22. فرمت ONNX
• 23. مزایای استفاده از ONNX
• 24. تبدیل مدل‌های LLM به ONNX
• 25. فرآیند تبدیل به ONNX
• 26. استفاده از ONNX Runtime
• 27. نصب و پیکربندی ONNX Runtime
• 28. مقدمه‌ای بر زبان برنامه‌نویسی C#
• 29. ویژگی‌های C# برای توسعه LLM
• 30. نوشتن کد C# برای استنتاج LLM
• 31. بارگذاری مدل ONNX در C#
• 32. اجرای استنتاج با مدل ONNX در C#
• 33. مدیریت حافظه در استنتاج LLM
• 34. بهینه‌سازی مصرف حافظه
• 35. فشرده‌سازی مدل‌ها (Quantization)
• 36. کوانتیزاسیون 4 بیتی
• 37. مزایای کوانتیزاسیون 4 بیتی
• 38. پیاده‌سازی کوانتیزاسیون 4 بیتی در C#
• 39. استفاده از کتابخانه‌های C# برای کوانتیزاسیون
• 40. کاهش حجم مدل با کوانتیزاسیون
• 41. افزایش سرعت استنتاج
• 42. تکنیک‌های افزایش سرعت
• 43. موازی‌سازی در استنتاج
• 44. استفاده از چند هسته پردازشی
• 45. بهینه‌سازی بر روی CPU
• 46. مقایسه عملکرد CPU و GPU
• 47. مزایای استنتاج بر روی CPU
• 48. سناریوهای استفاده از استنتاج CPU
• 49. نحوه انتخاب مدل مناسب LLM
• 50. معیارهای ارزیابی مدل‌های LLM
• 51. مقدمه‌ای بر پردازش زبان طبیعی (NLP)
• 52. وظایف رایج NLP
• 53. کاربرد LLM در NLP
• 54. آماده‌سازی داده‌ها برای LLM
• 55. پیش‌پردازش متن
• 56. تکنیک‌های توکنایزیشن (Tokenization)
• 57. مقدمه‌ای بر Embeddings
• 58. نحوه تولید Embeddings
• 59. استفاده از Embeddings در استنتاج
• 60. مدیریت Context Window
• 61. تکنیک‌های مدیریت Context Window
• 62. حافظه در مدل‌های ترنسفورمر
• 63. استنتاج چندزبانه
• 64. چالش‌های استنتاج چندزبانه
• 65. بهینه‌سازی مدل‌های چندزبانه
• 66. ارزیابی عملکرد LLM
• 67. معیارهای کمی و کیفی ارزیابی
• 68. تست‌های استاندارد LLM
• 69. شناسایی سوگیری (Bias) در LLMها
• 70. کاهش سوگیری در مدل‌ها
• 71. ملاحظات اخلاقی در توسعه LLM
• 72. مسئولیت‌پذیری در هوش مصنوعی
• 73. امنیت مدل‌های LLM
• 74. حملات رایج به LLMها
• 75. روش‌های دفاع در برابر حملات
• 76. حریم خصوصی داده‌ها در LLMها
• 77. قوانین و مقررات مربوط به هوش مصنوعی
• 78. قوانین داخلی ایران در زمینه هوش مصنوعی
• 79. مقررات مربوط به محتوای دیجیتال
• 80. استانداردهای اخلاقی در تولید محتوا
• 81. پیاده‌سازی LLMOPs در پروژه‌های واقعی
• 82. تجربه عملی با Phi3 Vision
• 83. کاربرد ONNX در سیستم‌های تولیدی
• 84. توسعه برنامه‌های کاربردی با C# و LLM
• 85. بهینه‌سازی بلادرنگ (Real-time Inference)
• 86. چالش‌های بهینه‌سازی بلادرنگ
• 87. راهکارهای بهینه‌سازی بلادرنگ
• 88. آینده استنتاج LLM
• 89. روندهای نوظهور در LLMOPs
• 90. نقش ONNX در اکوسیستم هوش مصنوعی
• 91. توسعه ابزارهای بهینه‌سازی
• 92. همکاری با جامعه توسعه‌دهندگان
• 93. مطالعه موردی: پیاده‌سازی موفق
• 94. درس‌های آموخته شده از پروژه‌ها
• 95. نکات کلیدی برای توسعه‌دهندگان
• 96. مقدمه‌ای بر مفاهیم پیشرفته‌تر LLM
• 97. معماری‌های نسل جدید LLM
• 98. روش‌های نوین آموزش LLM
• 99. کاربردهای خلاقانه LLM
• 100. تکنیک‌های Prompt Engineering