کتاب صوتی مهندسی حملات خصمانه به LLMها

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره مهندسی حملات خصمانه به LLMها

موضوع کلی: هوش مصنوعی توزیع شده و شبکه‌های LLM

موضوع میانی: حملات خصمانه (Adversarial Attacks) به LLM‌های توزیع شده

📋 سرفصل‌های دوره

• 1. آشنایی با مدل‌های زبانی بزرگ
• 2. مفاهیم پایه امنیت مدل‌های زبانی
• 3. تهدیدات امنیتی در LLMها
• 4. حملات تزریق پرامپت: مقدمه
• 5. انواع حملات تزریق پرامپت
• 6. روش‌های تشخیص حملات تزریق پرامپت
• 7. تکنیک‌های مقابله با تزریق پرامپت
• 8. حملات فرار از محدودیت‌ها
• 9. شناسایی نقاط ضعف در محدودیت‌های LLM
• 10. روش‌های دور زدن فیلترهای محتوایی
• 11. حملات استخراج اطلاعات حساس
• 12. حفظ حریم خصوصی در LLMها
• 13. قانون‌گذاری‌های مربوط به داده‌های LLM
• 14. حملات انکار سرویس (DoS) بر LLMها
• 15. مقابله با حملات DoS در LLMها
• 16. حملات مسموم‌سازی داده‌های آموزشی
• 17. اثرات مسموم‌سازی داده‌ها بر عملکرد LLM
• 18. روش‌های تشخیص داده‌های مسموم‌شده
• 19. حملات مهندسی اجتماعی بر کاربران LLM
• 20. آموزش کاربران برای مقابله با حملات مهندسی اجتماعی
• 21. ارزیابی آسیب‌پذیری LLMها
• 22. ابزارهای تست نفوذ LLM
• 23. استفاده از فریم‌ورک‌های امنیتی LLM
• 24. توسعه سیاست‌های امنیتی برای LLMها
• 25. مدیریت ریسک در LLMها
• 26. نظارت و ردیابی فعالیت‌های LLM
• 27. پاسخ به حوادث امنیتی در LLMها
• 28. بررسی و تحلیل لاگ‌های LLM
• 29. حملات مبتنی بر مدل‌های رقابتی
• 30. حملات استخراج مدل (Model Extraction)
• 31. حفاظت از مالکیت معنوی LLM
• 32. تکنیک‌های مبهم‌سازی مدل
• 33. حملات مبتنی بر یادگیری انتقالی
• 34. حملات جاگذاری backdoor در LLM
• 35. روش‌های تشخیص backdoor در LLMها
• 36. حملات مبتنی بر داده‌های adversarial
• 37. تکنیک‌های آموزش مقاوم در برابر داده‌های adversarial
• 38. امنیت زنجیره تامین LLM
• 39. مدیریت وابستگی‌های LLM
• 40. امنیت APIهای LLM
• 41. احراز هویت و مجوز در LLMها
• 42. رمزنگاری داده‌های LLM
• 43. حملات کانال جانبی (Side-Channel Attacks)
• 44. مقابله با حملات کانال جانبی
• 45. امنیت سخت‌افزاری LLM