کتاب صوتی آسیب‌پذیری‌های LLM در محیط‌های توزیع‌شده

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره آسیب‌پذیری‌های LLM در محیط‌های توزیع‌شده

موضوع کلی: هوش مصنوعی توزیع شده و شبکه‌های LLM

موضوع میانی: حملات خصمانه (Adversarial Attacks) به LLM‌های توزیع شده

📋 سرفصل‌های دوره

• 1. آسیب‌پذیری‌های مدل‌های زبانی بزرگ در محیط‌های توزیع‌شده
• 2. مقدمه‌ای بر مدل‌های زبانی بزرگ و معماری آن‌ها
• 3. محیط‌های توزیع‌شده: مفاهیم و چالش‌ها
• 4. توزیع مدل‌های زبانی بزرگ: رویکردها و تکنیک‌ها
• 5. آسیب‌پذیری‌های ذاتی مدل‌های زبانی بزرگ
• 6. حملات مبتنی بر ورودی خصمانه (Adversarial Attacks)
• 7. حملات تزریق پرامپت (Prompt Injection Attacks)
• 8. حملات استخراج اطلاعات (Information Extraction Attacks)
• 9. حملات عضویت (Membership Inference Attacks)
• 10. حملات بازسازی مدل (Model Reconstructions Attacks)
• 11. حملات سم‌زدایی (Poisoning Attacks)
• 12. آسیب‌پذیری‌های مربوط به داده‌های آموزشی
• 13. کیفیت داده‌ها و تاثیر آن بر امنیت LLM
• 14. حملات مبتنی بر تقلب داده‌ها (Data Fabrication Attacks)
• 15. حملات حریم خصوصی داده‌ها (Data Privacy Attacks)
• 16. آسیب‌پذیری‌های ناشی از معماری مدل
• 17. توکن‌سازی و آسیب‌پذیری‌های مرتبط
• 18. لایه‌های Embedding و خطرات احتمالی
• 19. مکانیسم‌های توجه (Attention Mechanisms) و امنیت
• 20. آسیب‌پذیری‌های مربوط به لایه‌های Decoder و Encoder
• 21. حملات مبتنی بر دستکاری وزن‌های مدل
• 22. حملات بهینه‌سازی وزن‌ها (Weight Optimization Attacks)
• 23. حملات معکوس‌گرادیان (Gradient Reversal Attacks)
• 24. آسیب‌پذیری‌های مربوط به API و رابط‌های کاربری
• 25. امنیت APIهای LLM در محیط‌های توزیع‌شده
• 26. احراز هویت و مجوز دسترسی در LLM
• 27. کنترل دسترسی به منابع LLM
• 28. حملات مبتنی بر سوء استفاده از API
• 29. تکنیک‌های دفاعی در برابر حملات ورودی خصمانه
• 30. تشخیص ورودی‌های خصمانه
• 31. تقویت مدل برای مقابله با ورودی‌های خصمانه
• 32. تکنیک‌های دفاعی در برابر حملات تزریق پرامپت
• 33. فیلتر کردن ورودی‌های مخرب
• 34. تکنیک‌های دفاعی در برابر حملات استخراج اطلاعات
• 35. حفاظت از اطلاعات حساس در LLM
• 36. تکنیک‌های دفاعی در برابر حملات عضویت
• 37. حفظ حریم خصوصی در LLM
• 38. تکنیک‌های دفاعی در برابر حملات بازسازی مدل
• 39. محافظت از مالکیت معنوی LLM
• 40. تکنیک‌های دفاعی در برابر حملات سم‌زدایی
• 41. اعتبارسنجی و پاکسازی داده‌های آموزشی
• 42. تکنیک‌های دفاعی در برابر حملات مربوط به داده‌های آموزشی
• 43. استفاده از داده‌های مصنوعی برای آموزش LLM
• 44. تکنیک‌های دفاعی در برابر حملات مبتنی بر دستکاری وزن‌ها
• 45. نظارت بر وزن‌های مدل و تشخیص تغییرات غیرمجاز