فلش‌کارت‌های آموزشی ارزیابی استحکام و مقاومت LLMs در برابر حملات

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره ارزیابی استحکام و مقاومت LLMs در برابر حملات

موضوع کلی: هوش مصنوعی و مدل‌های زبانی بزرگ

موضوع میانی: تکنیک‌های Auditing LLMs

📋 سرفصل‌های دوره

• 1. مقدمه ای بر معماری مدل های زبان بزرگ
• 2. مبانی یادگیری ماشین برای مدل های زبان
• 3. ساختارهای داده و الگوریتم های کلیدی در LLMs
• 4. پیش پردازش متن و آماده سازی داده ها
• 5. روش های مدل سازی زبان سنتی
• 6. معماری ترنسفورمر و مکانیزم توجه
• 7. لایه ها و بلوک های ساختاری ترنسفورمر
• 8. مدل های زبانی مبتنی بر ترنسفورمر (BERT, GPT)
• 9. آموزش پیشین مدل های زبان بزرگ
• 10. تنظیم دقیق (Fine-tuning) مدل های زبان
• 11. ارزیابی عملکرد مدل های زبان
• 12. معیارهای سنجش کیفیت در مدل های زبان
• 13. مفاهیم پایه امنیت سایبری
• 14. مقدمه ای بر حملات سایبری به سیستم های هوش مصنوعی
• 15. انواع حملات به مدل های یادگیری ماشین
• 16. حملات تزریق داده (Data Poisoning)
• 17. حملات اخلال در آموزش (Training Attacks)
• 18. حملات استخراج مدل (Model Extraction)
• 19. حملات استخراج داده آموزشی (Training Data Extraction)
• 20. حملات مربوط به حریم خصوصی
• 21. حملات از طریق ورودی های مخرب (Adversarial Attacks)
• 22. مقدمه ای بر حملات تخاصمی (Adversarial Examples)
• 23. روش های تولید مثال های تخاصمی
• 24. حملات مبتنی بر گرادیان (Gradient-based Attacks)
• 25. حملات بدون گرادیان (Gradient-free Attacks)
• 26. حملات بر روی مدل های ترنسفورمر
• 27. حملات تزریق کلمات کلیدی مخرب
• 28. حملات دستکاری ورودی برای تغییر خروجی
• 29. حملات وارونه سازی (Inversion Attacks)
• 30. حملات بازسازی داده های آموزشی
• 31. حملات مربوط به سوگیری (Bias) در مدل ها
• 32. سوگیری های ناشی از داده های آموزشی
• 33. سوگیری های ناشی از معماری مدل
• 34. شناسایی و کاهش سوگیری در LLMs
• 35. حملات مهندسی اجتماعی علیه LLMs
• 36. تکنیک های فیشینگ و جعل هویت با LLMs
• 37. حملات مبتنی بر تولید محتوای گمراه کننده
• 38. حملات مرتبط با تولید اطلاعات نادرست (Misinformation)
• 39. حملات مربوط به تولید محتوای نفرت پراکن
• 40. حملات مرتبط با تولید محتوای غیر اخلاقی
• 41. حملات مربوط به تولید محتوای غیر قانونی
• 42. حملات تزریق دستورالعمل (Prompt Injection)
• 43. مکانیسم های آسیب پذیری در Prompt Injection
• 44. روش های حمله Prompt Injection
• 45. حملات تزریق دستورالعمل مستقیم و غیرمستقیم
• 46. حملات تزریق دستورالعمل مبتنی بر داده های خارجی
• 47. حملات تزریق دستورالعمل در سناریوهای چت بات
• 48. حملات تزریق دستورالعمل در سیستم های پرسش و پاسخ
• 49. حملات تزریق دستورالعمل در تولید کد
• 50. حملات تزریق دستورالعمل برای دور زدن فیلترها
• 51. حملات تزریق دستورالعمل برای استخراج اطلاعات حساس
• 52. حملات تزریق دستورالعمل برای اجرای دستورات مخرب
• 53. روش های دفاع در برابر Prompt Injection
• 54. فیلترینگ ورودی ها و خروجی ها
• 55. تقویت مدل در برابر ورودی های مخرب
• 56. اعتبارسنجی خروجی ها
• 57. استفاده از مدل های کمکی برای تشخیص حملات
• 58. روش های مبتنی بر دانش و قوانین
• 59. روش های مبتنی بر یادگیری ماشین
• 60. روش های مبتنی بر تحلیل معنایی
• 61. مبانی استحکام (Robustness) در مدل های زبان
• 62. اهمیت استحکام در کاربردهای حساس
• 63. روش های افزایش استحکام مدل ها
• 64. آموزش تخاصمی (Adversarial Training)
• 65. تکنیک های منظم سازی (Regularization)
• 66. استفاده از داده های پاکسازی شده
• 67. اعتبارسنجی و پایش مستمر مدل
• 68. پایش رفتار غیرعادی مدل
• 69. شناسایی الگوهای حمله
• 70. استفاده از سیستم های تشخیص نفوذ
• 71. چارچوب های امنیتی برای LLMs
• 72. اصول طراحی امن برای LLMs
• 73. مدیریت دسترسی و احراز هویت
• 74. رمزنگاری در پردازش زبان طبیعی
• 75. امنیت داده ها در چرخه عمر LLMs
• 76. نقش ارزیابی های امنیتی در چرخه توسعه
• 77. آزمون های نفوذ (Penetration Testing) برای LLMs
• 78. تست های استحکام (Robustness Testing)
• 79. تست های امنیتی مبتنی بر سناریوهای حمله
• 80. ارزیابی های امنیتی دوره ای و مستمر
• 81. استانداردهای امنیتی مرتبط با هوش مصنوعی
• 82. راهنمای سازمان های بین المللی در امنیت AI
• 83. قوانین و مقررات جمهوری اسلامی ایران در حوزه امنیت سایبری
• 84. آیین نامه های مربوط به حفاظت از داده ها
• 85. مقررات بانک مرکزی در خصوص رمزارزها و امنیت مالی
• 86. قوانین مربوط به جرایم رایانه ای
• 87. مسئولیت پذیری در قبال آسیب های ناشی از LLMs
• 88. اخلاق در توسعه و استفاده از LLMs
• 89. کاربردهای امن LLMs در سازمان های دولتی
• 90. کاربردهای امن LLMs در بخش خصوصی
• 91. امنیت LLMs در سیستم های حساس (مالی، بهداشتی)
• 92. آینده امنیت مدل های زبان بزرگ
• 93. روند رو به رشد حملات و راهکارهای دفاعی
• 94. توسعه مدل های خود-ایمن (Self-healing Models)
• 95. نقش جامعه علمی و پژوهشی در ارتقای امنیت LLMs
• 96. همکاری های بین المللی در مقابله با تهدیدات سایبری
• 97. آموزش و فرهنگ سازی در خصوص امنیت LLMs