فلش‌کارت‌های آموزشی مدیریت ریسک‌های امنیتی در مدل‌های زبانی مبتنی بر شبکه‌های عصبی کانولوشنی (CNNs)

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مدیریت ریسک‌های امنیتی در مدل‌های زبانی مبتنی بر شبکه‌های عصبی کانولوشنی (CNNs)

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: امنیت و حریم خصوصی در LLMs

📋 سرفصل‌های دوره

• 1. مبانی امنیت مدل‌های زبانی مبتنی بر شبکه‌های عصبی کانولوشنی
• 2. معماری CNN در پردازش زبان طبیعی
• 3. پردازش توالی‌های متنی با لایه‌های کانولوشنی
• 4. Embedding و نمایش برداری متن در مدل‌های CNN
• 5. استخراج ویژگی‌های متنی با Convolution
• 6. Pooling و تأثیر آن بر بازنمایی متن
• 7. معماری‌های چندلایه CNN برای مدل‌های زبانی
• 8. CNN یک‌بعدی برای طبقه‌بندی و تحلیل متن
• 9. مدل‌های CNN برای تشخیص و پیش‌بینی متنی
• 10. تفاوت تهدیدهای امنیتی مدل‌های CNN و Transformer
• 11. سطوح حمله در مدل‌های زبانی مبتنی بر CNN
• 12. مدل تهدید و تعریف مهاجم
• 13. دارایی‌های امنیتی در مدل‌های زبانی CNN
• 14. محرمانگی، یکپارچگی و دسترس‌پذیری مدل
• 15. تهدیدهای امنیتی در مرحله آموزش
• 16. تهدیدهای امنیتی در مرحله استنتاج
• 17. حملات White-Box و Black-Box
• 18. حملات Gray-Box و سناریوهای دسترسی محدود
• 19. ارزیابی سطح حمله مدل‌های CNN
• 20. آسیب‌پذیری‌های داده‌های آموزشی متنی
• 21. Data Poisoning در داده‌های آموزش مدل
• 22. Label Poisoning در مدل‌های طبقه‌بندی متن
• 23. Backdoor Attack در مدل‌های CNN زبانی
• 24. Triggerهای متنی و حملات Backdoor
• 25. تشخیص و حذف داده‌های آلوده
• 26. مقاوم‌سازی داده‌های آموزشی در برابر Poisoning
• 27. حملات Adversarial به مدل‌های پردازش متن
• 28. Adversarial Examples در داده‌های متنی
• 29. حملات Character-Level علیه CNNهای زبانی
• 30. حملات Word-Level و جایگزینی واژگان
• 31. حملات Sentence-Level و تغییر ساختار متن
• 32. حملات مبتنی بر Synonym و Semantic Perturbation
• 33. حملات Gradient-Based علیه مدل‌های CNN
• 34. حملات بدون گرادیان در محیط Black-Box
• 35. حملات Query-Based به سرویس‌های مدل
• 36. حملات Transfer-Based و انتقال نمونه‌های خصمانه
• 37. ارزیابی میزان موفقیت حملات Adversarial
• 38. روش‌های دفاعی در برابر Adversarial Examples
• 39. Adversarial Training برای مدل‌های CNN
• 40. Input Sanitization و پاک‌سازی ورودی متنی
• 41. Adversarial Detection و تشخیص ورودی مخرب
• 42. Robust Feature Extraction برای مدل‌های متنی
• 43. تأثیر Preprocessing بر مقاومت امنیتی مدل
• 44. آسیب‌پذیری Embeddingها در مدل‌های زبانی
• 45. حملات علیه بازنمایی‌های برداری متن
• 46. استخراج اطلاعات از Embeddingها
• 47. حملات Inference علیه داده‌های آموزشی
• 48. Membership Inference در مدل‌های CNN
• 49. Model Inversion در مدل‌های پردازش متن
• 50. Attribute Inference از خروجی مدل
• 51. Training Data Extraction از مدل‌های زبانی
• 52. Data Memorization و نشت اطلاعات
• 53. تشخیص و کاهش نشت اطلاعات حساس
• 54. حفاظت از اطلاعات شخصی در داده‌های آموزشی
• 55. ناشناس‌سازی و حذف PII از داده‌های متنی
• 56. Differential Privacy در آموزش مدل‌های زبانی
• 57. Privacy-Preserving Machine Learning برای CNN
• 58. Federated Learning برای مدل‌های متنی
• 59. امنیت و حریم خصوصی در Federated Learning
• 60. Gradient Leakage در آموزش توزیع‌شده
• 61. مقاوم‌سازی Gradientها در برابر افشای داده
• 62. Secure Aggregation در یادگیری فدرال
• 63. Model Extraction و سرقت عملکرد مدل
• 64. Model Stealing در مدل‌های طبقه‌بندی متن
• 65. تشخیص رفتارهای مشکوک در Queryها
• 66. محدودسازی دسترسی به API مدل
• 67. Rate Limiting و کنترل درخواست‌های مخرب
• 68. محافظت از مدل در برابر حملات تکراری
• 69. حملات Evasion در زمان استنتاج
• 70. دستکاری ورودی برای تغییر پیش‌بینی مدل
• 71. Confidence Manipulation و سوءاستفاده از خروجی مدل
• 72. حملات علیه سیستم‌های پیش‌پردازش متن
• 73. امنیت Tokenization و Text Normalization
• 74. دور زدن فیلترهای ورودی متنی
• 75. Canonicalization و جلوگیری از Bypass
• 76. حملات Unicode و Homoglyph در ورودی متن
• 77. کنترل ورودی‌های غیرقابل اعتماد
• 78. اعتبارسنجی خروجی مدل‌های زبانی
• 79. Output Filtering و حذف محتوای ناامن
• 80. امنیت Pipeline پردازش متن با CNN
• 81. امنیت مدل در محیط Production
• 82. محافظت از فایل‌ها و وزن‌های مدل
• 83. امنیت Checkpointها و پارامترهای مدل
• 84. مدیریت امن کلیدها و Secrets مدل
• 85. کنترل دسترسی به مدل و زیرساخت استنتاج
• 86. امنیت Container و محیط اجرای مدل
• 87. ثبت رویدادهای امنیتی و Audit Logging
• 88. پایش رفتار مدل برای کشف حملات
• 89. شاخص‌های سنجش Robustness و Security
• 90. طراحی تست‌های امنیتی برای مدل‌های CNN
• 91. ساخت مجموعه‌داده ارزیابی امنیتی
• 92. Red Teaming برای مدل‌های زبانی CNN
• 93. Threat Modeling با رویکرد STRIDE
• 94. اولویت‌بندی ریسک‌های امنیتی مدل
• 95. اندازه‌گیری احتمال و اثر حمله
• 96. طراحی برنامه کاهش ریسک امنیتی
• 97. مدیریت چرخه عمر امنیتی مدل
• 98. پایش Drift و تغییر الگوهای حمله
• 99. به‌روزرسانی امن مدل و داده‌های آموزشی
• 100. ارزیابی امنیتی نسخه‌های جدید مدل