فلش‌کارت‌های آموزشی امنیت در استنتاج (Inference) مدل‌های زبانی بزرگ

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره امنیت در استنتاج (Inference) مدل‌های زبانی بزرگ

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: امنیت و حریم خصوصی در LLMs

📋 سرفصل‌های دوره

• 1. مبانی امنیت در استنتاج مدل‌های زبانی بزرگ
• 2. معماری فرآیند استنتاج در مدل‌های زبانی بزرگ
• 3. تفاوت امنیت در آموزش و امنیت در مرحله استنتاج
• 4. شناخت تهدیدات امنیتی در سرویس‌های مبتنی بر LLM
• 5. مدل‌سازی تهدید برای سیستم‌های استنتاج هوش مصنوعی
• 6. سطوح حمله در چرخه استقرار مدل‌های زبانی بزرگ
• 7. امنیت APIهای ارائه‌دهنده خدمات LLM
• 8. کنترل دسترسی و احراز هویت در سرویس‌های استنتاج
• 9. مدیریت مجوزها و سیاست‌های استفاده از مدل
• 10. امنیت ورودی‌ها در سیستم‌های مبتنی بر LLM
• 11. مبانی حملات Prompt Injection در استنتاج
• 12. حملات مستقیم و غیرمستقیم Prompt Injection
• 13. روش‌های تشخیص و کاهش حملات Prompt Injection
• 14. حملات Jailbreak علیه مدل‌های زبانی بزرگ
• 15. روش‌های دفاعی در برابر Jailbreak و دور زدن محدودیت‌ها
• 16. محدودسازی رفتار مدل با سیاست‌های امنیتی
• 17. امنیت Context Window و مدیریت داده‌های ورودی
• 18. حملات استخراج اطلاعات از طریق ورودی‌های مخرب
• 19. نشت اطلاعات حساس در پاسخ‌های مدل
• 20. حملات Model Extraction در مرحله استنتاج
• 21. روش‌های جلوگیری از سرقت قابلیت‌های مدل
• 22. حملات Membership Inference و تشخیص داده‌های آموزشی
• 23. حملات استخراج داده‌های خصوصی از مدل
• 24. حریم خصوصی کاربران در تعامل با LLMها
• 25. ناشناس‌سازی و حفاظت از داده‌های ورودی کاربران
• 26. مدیریت داده‌های حساس در سیستم‌های مکالمه‌ای
• 27. امنیت حافظه و تاریخچه گفتگو در LLM Applications
• 28. محافظت از Retrieval-Augmented Generation در زمان استنتاج
• 29. امنیت پایگاه‌های دانش متصل به مدل‌های زبانی
• 30. مقابله با Poisoning در سیستم‌های مبتنی بر RAG
• 31. اعتبارسنجی منابع و خروجی‌های بازیابی‌شده
• 32. کنترل خروجی مدل برای جلوگیری از نشت اطلاعات
• 33. فیلترینگ و نظارت بر پاسخ‌های تولیدشده
• 34. طراحی Guardrailهای امنیتی برای LLMها
• 35. ارزیابی امنیتی رفتار مدل در زمان اجرا
• 36. آزمون نفوذ برای برنامه‌های مبتنی بر LLM
• 37. طراحی سناریوهای حمله و تست امنیت استنتاج
• 38. معیارهای ارزیابی مقاومت امنیتی مدل‌های زبانی
• 39. پایش مداوم تهدیدات در سیستم‌های LLM
• 40. ثبت رخدادها و تحلیل لاگ‌های استنتاج
• 41. تشخیص رفتارهای غیرعادی کاربران و مهاجمان
• 42. امنیت استنتاج در مدل‌های متن‌باز
• 43. مدیریت ریسک در استقرار مدل‌های زبانی بزرگ
• 44. امنیت زیرساخت پردازش مدل‌های هوش مصنوعی
• 45. حفاظت از شتاب‌دهنده‌ها و منابع محاسباتی استنتاج
• 46. بهینه‌سازی امنیت و عملکرد در سرویس‌های LLM
• 47. تأثیر کاهش حجم مدل و Quantization بر امنیت
• 48. امنیت مدل‌های کوچک‌شده و نسخه‌های بهینه‌شده
• 49. مقایسه رویکردهای دفاعی در برابر حملات LLM
• 50. طراحی معماری امن برای سرویس‌های مبتنی بر LLM
• 51. پیاده‌سازی لایه‌های امنیتی در برنامه‌های هوشمند
• 52. اصول حاکمیت و مدیریت ریسک مدل‌های زبانی
• 53. استانداردها و چارچوب‌های امنیتی مرتبط با LLM
• 54. طراحی چک‌لیست امنیتی برای استنتاج مدل‌های زبانی
• 55. مطالعه نمونه‌های واقعی آسیب‌پذیری در سیستم‌های LLM
• 56. پروژه عملی ارزیابی و ایمن‌سازی یک سیستم استنتاج LLM