در این دوره جامع Udemy با عنوان «تسلط بر Ollama: ساخت اپ‌های محلی خصوصی LLM با پایتون» تمامی مراحل لازم برای توسعه و استقرار مدل‌های زبانی بزرگ (LLM) به‌صورت آفلاین و کاملاً خصوصی را خواهید آموخت. این دوره نسخه پاییز ۲۰۲۴ بوده و شامل آموزش قدم‌به‌قدم نصب، پیکربندی و پیاده‌سازی در محیط‌های ویندوز، مک و لینوکس است. از مقدمات تا مباحث پیشرفته، همه‌چیز را در قالب پروژه‌های عملی بررسی می‌کنیم.

هدف اصلی این دوره، ارائه یک راهنمای کاربری برای برنامه‌نویسان پایتون است تا بدون نیاز به اینترنت و با حریم خصوصی کامل، اپلیکیشن‌های مبتنی بر هوش مصنوعی تولید کنند. اگر می‌خواهید LLM را بدون ارسال داده به سرورهای ابری اجرا کنید، این دوره مخصوص شماست.

• معرفی Ollama و اکوسیستم LLM
  بررسی معماری، قابلیت‌ها و مقایسه با فریم‌ورک‌های دیگر.
• نصب و راه‌اندازی محیط توسعه
  نصب پایتون، Docker، Git و کتابخانه‌های مرتبط.
• کار با مدل‌های پیش‌آموزش‌دیده
  بارگذاری، بهینه‌سازی و سفارشی‌سازی مدل‌های موجود.
• ساخت API محلی با FastAPI
  پیاده‌سازی سرویس‌های RESTful با پایتون به‌همراه مستندسازی Swagger.
• چندرشته‌ای و پردازش موازی
  استفاده از ThreadPool و Async برای افزایش کارایی و پاسخگویی.
• پیاده‌سازی رابط کاربری ساده
  ایجاد وب‌اپ با Streamlit یا Flask برای تعامل کاربر با مدل.
• روش‌های بهینه‌سازی مصرف حافظه
  قابلیت quantization و کاهش اندازه مدل‌ها برای اجرا روی دستگاه‌های کم‌منبع.
• امنیت و حفظ حریم خصوصی
  رمزنگاری داده‌ها و محافظت از مدل‌های تربیت‌شده.
• تست، دیباگ و استقرار نهایی
  آموزش CI/CD محلی و containerization با Docker Compose.

• درک پایه‌ای معماری Ollama و مزایای اجرای محلی مدل‌های LLM.
• نصب و پیکربندی سریع محیط توسعه برای تمامی سیستم‌عامل‌ها.
• نحوه بارگذاری و پیش‌پردازش داده‌های ورودی برای مدل‌های زبانی.
• طراحی API حرفه‌ای با FastAPI و پیاده‌سازی Endpoints داینامیک.
• استفاده از Async/Await برای افزایش سرعت پاسخگویی و مدیریت چندکاربر همزمان.
• به‌کارگیری تکنیک‌های کمینه‌سازی مصرف حافظه مدل‌ها (quantization).
• اجرای امن و حفاظت از داده‌های حساس کاربران.
• راه‌اندازی اتوماتیک اپلیکیشن با Docker و تست مداوم با GitHub Actions.

با شرکت در این دوره، شما قادر خواهید بود:

• بدون وابستگی به سرویس‌های ابری نظیر OpenAI، GPT-4 یا Cohere، مدل‌های خود را اجرا کنید.
• سرعت پاسخگویی بالا در محیط آفلاین با کنترل کامل روی سخت‌افزار و داده‌ها.
• حفظ حریم خصوصی کاربران با اجرای محلی و رمزنگاری داده‌ها.
• صرفه‌جویی در هزینه‌های پردازش و پهنای باند اینترنت.
• قابلیت توسعه سریع و قابل تعمیم برای پروژه‌های سازمانی و تحقیقاتی.

• آشنایی پایه‌ای با زبان برنامه‌نویسی پایتون (نسخه 3.8+).
• درک مقدماتی از مفاهیم RESTful API و HTTP.
• آشنایی با کار ترمینال در ویندوز، مک یا لینوکس.
• حداقل دانش ابتدایی از Docker و Git در سطح مقدماتی.
• داشتن سیستم با حداقل ۸ گیگابایت رم و ۴ هسته پردازنده (برای مدل‌های سبک).

در هر فصل این دوره، ما پروژه‌ها و مثال‌های کاربردی متنوعی را پیاده‌سازی می‌کنیم. از جمله:

• ساخت ربات چت محلی با جریان گفتگو پیوسته (Contextual Chatbot).
• تبدیل متن به خلاصه خودکار با استفاده از تکنیک‌های Prompt Engineering.
• تشخیص احساسات (Sentiment Analysis) در متن‌های فارسی و انگلیسی.
• ایجاد وب‌سرویس پرسش‌وپاسخ که به‌صورت آفلاین کار می‌کند.
• پروژه نهایی: وب‌اپلیکیشنی برای ترجمه و اصلاح نگارشی متن‌ها با مدل‌های شخصی‌سازی‌شده.

• محیط آفلاین: بدون نیاز به اتصال اینترنت، مدل‌ها روی دستگاه شما اجرا می‌شوند.
• امنیت حریم خصوصی: داده‌های حساس هرگز از روی دستگاه شما خارج نمی‌شوند.
• سفارشی‌سازی کامل: امکان تغییر وزن‌ها، پرامپت‌ها و معماری مدل.
• استقرار سریع: با Docker و Docker Compose یک کلیک تا راه‌اندازی نهایی.
• مقیاس‌پذیری: قابلیت اجرا روی سرورهای محلی یا خوشه‌های Kubernetes در آینده.

با دانلود رایگان این دوره و مشاهده و پیگیری تمرین‌های پروژه‌محور، در پایان می‌توانید اپلیکیشن‌های قدرتمند هوش مصنوعی بدون وابستگی به اینترنت و سرویس‌های ابری بسازید. فرصت را از دست ندهید و همین امروز شروع کنید!