کتاب صوتی شناسایی و پیشگیری از آسیب‌پذیریهای اجرای کد از راه دور در سامانه‌های مبتنی بر LLM

🎓 دوره آموزشی جامع

📚 اطلاعات دوره

عنوان دوره: دوره شناسایی و پیشگیری از آسیب‌پذیریهای اجرای کد از راه دور در سامانه‌های مبتنی بر LLM

موضوع کلی: امنیت سایبری و آسیب‌پذیری‌های سامانه‌های هوش مصنوعی

موضوع میانی: ارزیابی امنیتی و مدیریت ریسک در چارچوب‌های یکپارچه‌سازی مدل‌های زبانی

📋 سرفصل‌های دوره

• 1. آسیب‌پذیری RCE در چارچوب‌های یکپارچه‌سازی مدل زبانی
• 2. معماری سامانه‌های LLM و نقاط ورود حمله
• 3. نحوه تزریق دستورات به لایه‌های میانی (Middleware Injection)
• 4. بررسی ابزارهای LLM و توابع اجراکننده کد
• 5. کشف آسیب‌پذیری در زنجیره ابزار (Tool Chain)
• 6. تزریق پرامپت برای دستکاری فراخوانی توابع
• 7. نقش سریال‌سازی و دی‌سریال‌سازی در اجرای کد
• 8. آسیب‌پذیری در پارسرهای خروجی مدل زبانی
• 9. تکنیک‌های دور زدن اعتبارسنجی ورودی
• 10. تحلیل کد منبع چارچوب‌های LLM
• 11. شبیه‌سازی حمله RCE در محیط آزمایشگاهی
• 12. ابزارهای اسکن خودکار برای یافتن RCE
• 13. مدل‌سازی تهدیدات در سامانه‌های LLM
• 14. ارزیابی ریسک بردارهای حمله به لایه یکپارچه‌سازی
• 15. پیاده‌سازی فایروال محتوایی برای ورودی‌های LLM
• 16. اعتبارسنجی خروجی با لیست سفید و سیاه
• 17. سیاست‌های امنیتی برای توابع اجرایی
• 18. مدیریت نشست و سندباکس در زمان اجرا
• 19. راهکارهای محدودسازی دسترسی به سامانه فایل
• 20. پیشگیری از فرار از سندباکس (Sandbox Escape)
• 21. بازبینی کد چارچوب‌های متن‌باز LLM
• 22. تست نفوذ دستی بر روی لایه یکپارچه‌سازی
• 23. تست نفوذ خودکار با ابزارهای تخصصی
• 24. ایجاد و مدیریت لاگ‌های امنیتی
• 25. تحلیل لاگ برای شناسایی حملات RCE
• 26. استانداردهای امنیتی OWASP برای LLM
• 27. چارچوب MITRE ATLAS برای تهدیدات هوش مصنوعی
• 28. مقایسه چارچوب‌های LangChain و LlamaIndex از منظر امنیت
• 29. مدیریت آسیب‌پذیری‌های شناخته شده (CVE)
• 30. به‌روزرسانی امنیتی و مدیریت وصله
• 31. طراحی معماری امن با جداسازی وظایف
• 32. محدودسازی توان عملیاتی (Rate Limiting) در توابع
• 33. رمزنگاری و مدیریت کلید در ارتباط با LLM
• 34. ارزیابی امنیتی APIهای مدل زبانی
• 35. تکنیک‌های دفاعی در برابر تزریق غیرمستقیم پرامپت
• 36. مدیریت خطا و عدم افشای اطلاعات داخلی
• 37. تست یکپارچگی امنیتی در پایپلاین CI/CD
• 38. مستندسازی و گزارش‌دهی آسیب‌پذیری‌ها
• 39. برنامه پاسخ به حادثه برای سامانه‌های LLM
• 40. آموزش تیم توسعه در زمینه امنیت LLM
• 41. بازیابی پس از حادثه و تحلیل علت ریشه‌ای
• 42. ممیزی امنیتی دوره‌ای چارچوب‌های یکپارچه‌سازی