این دوره به شما کمک می‌کند تا پایه‌های محکم و دانش عملی لازم برای کار با مدل‌های زبانی مولد را کسب کنید. مهم‌ترین سرفصل‌های آموزشی عبارتند از:

• مفاهیم پایه پردازش زبان طبیعی (NLP): با مبانی NLP، تاریخچه و کاربردهای آن، و چالش‌های کار با داده‌های متنی آشنا می‌شوید.

• ساختار و معماری ترنسفورمرها: درک عمیقی از مهم‌ترین معماری حال حاضر در مدل‌های زبانی، یعنی ترنسفورمرها (Transformers)، شامل مکانیسم سلف-اتنشن (Self-Attention)، بلوک‌های انکودر (Encoder) و دیکودر (Decoder) و نحوه کارکرد آن‌ها به دست می‌آورید.

• پیاده‌سازی مدل زبانی از صفر: یاد می‌گیرید چگونه یک مدل زبانی مولد را از پایه و با استفاده از کتابخانه‌های قدرتمند پایتون مانند PyTorch یا TensorFlow کدنویسی و پیاده‌سازی کنید. این بخش شامل پیش‌پردازش داده‌ها، ساخت لایه‌های مدل و تعریف تابع هزینه است.

• آماده‌سازی و پیش‌پردازش داده‌های متنی: تکنیک‌های کلیدی برای آماده‌سازی داده‌های متنی شامل توکنایزیشن (Tokenization)، نرمال‌سازی و ایجاد امبدینگ‌های (Embeddings) مناسب برای ورود به مدل را فرا می‌گیرید.

• آموزش و ارزیابی مدل‌های زبانی: با فرآیند آموزش (Training) مدل، بهینه‌سازی (Optimization)، و ارزیابی (Evaluation) عملکرد مدل با استفاده از متریک‌های استاندارد مانند پرپلکسیتی (Perplexity) آشنا خواهید شد.

• تولید متن و کاربردهای عملی: نحوه استفاده از مدل‌های آموزش‌دیده برای تولید متن خلاقانه، پاسخ به سوالات، خلاصه‌سازی و سایر کاربردهای عملی را تجربه می‌کنید.

• برنامه‌نویسی عملی و رفع اشکال: این دوره بر رویکرد Hands-On تاکید دارد و با ارائه مثال‌های کدنویسی و تمرینات عملی، مهارت شما را در رفع اشکال و بهینه‌سازی مدل‌ها افزایش می‌دهد.

شرکت در این دوره آموزشی مزایای چشمگیری برای شما به همراه خواهد داشت:

• کسب مهارت‌های بسیار پرتقاضا: هوش مصنوعی مولد یکی از پرتقاضاترین حوزه‌های شغلی در حال حاضر و آینده است. با این دوره، مهارت‌های ارزشمندی را به دست می‌آورید که شما را در بازار کار متمایز می‌کند.

• درک عمیق تئوری و عملی: شما نه تنها با مفاهیم پشت مدل‌های زبانی مولد آشنا می‌شوید، بلکه تجربه عملی ساخت این مدل‌ها از صفر را نیز کسب می‌کنید که بسیار فراتر از استفاده از کتابخانه‌های آماده است.

• افزایش قابلیت استخدام: با داشتن دانش و تجربه عملی در ساخت مدل‌های زبانی مولد، رزومه شما برای نقش‌هایی مانند مهندس یادگیری ماشین، محقق هوش مصنوعی و دانشمند داده بسیار جذاب‌تر خواهد شد.

• توانایی سفارشی‌سازی و نوآوری: پس از این دوره، شما قادر خواهید بود مدل‌های زبانی را برای نیازهای خاص خود سفارشی‌سازی کنید یا حتی مدل‌های جدیدی را ابداع کنید.

• آمادگی برای مدل‌های پیشرفته: پایه و اساس محکمی برای درک و کار با مدل‌های پیشرفته‌تر و بزرگ‌تر مانند GPT، BERT، و LLaMA را فراهم می‌کند.

• یادگیری از متخصصان: محتوای دوره توسط متخصصان لینکدین طراحی شده و به روزترین تکنیک‌ها و بهترین روش‌ها را به شما آموزش می‌دهد.

برای بهره‌برداری حداکثری از این دوره، داشتن پیش‌نیازهای زیر توصیه می‌شود:

• آشنایی با زبان برنامه‌نویسی پایتون: تسلط بر مبانی پایتون، شامل ساختمان داده‌ها، توابع، حلقه‌ها و مفاهیم شی‌گرایی (OOP)، ضروری است.

• مبانی جبر خطی و حساب دیفرانسیل: درک اولیه از مفاهیم ماتریس‌ها، بردارها، مشتق و گرادیان (برای درک عمیق‌تر الگوریتم‌های بهینه‌سازی) مفید خواهد بود، اما ضروری نیست. مفاهیم لازم در طول دوره مرور می‌شوند.

• مفاهیم اولیه یادگیری ماشین (اختیاری): آشنایی قبلی با مفاهیم کلی یادگیری ماشین و شبکه‌های عصبی می‌تواند به درک سریع‌تر مطالب کمک کند، اما پیش‌فرض دوره نیست.

• علاقه و پشتکار: مهم‌ترین پیش‌نیاز، علاقه شدید به هوش مصنوعی، پردازش زبان طبیعی و تمایل به یادگیری عمیق مفاهیم از پایه است.

این دوره به صورت منطقی و مرحله به مرحله طراحی شده تا شما را از مبانی تا ساخت یک مدل کامل راهنمایی کند. بخش‌های اصلی شامل:

• بخش ۱: مقدمه‌ای بر هوش مصنوعی مولد و NLP: در این بخش با مفهوم هوش مصنوعی مولد، تاریخچه، و جایگاه مدل‌های زبانی در آن آشنا می‌شوید. همچنین مرور سریعی بر چالش‌ها و کاربردهای پردازش زبان طبیعی خواهید داشت.

• بخش ۲: مبانی ریاضی و ساختمان داده‌های لازم: این بخش به معرفی مفاهیم ریاضی ضروری مانند تانسورها (Tensors) و عملیات‌های پایه در کتابخانه‌های NumPy و PyTorch/TensorFlow می‌پردازد که برای ساخت مدل‌ها حیاتی هستند.

• بخش ۳: پیش‌پردازش داده‌های متنی: مراحل عملی پاکسازی متن، توکنایزیشن، و تبدیل کلمات به بردارهای عددی (مانند Word Embeddings یا Positional Encoding) آموزش داده می‌شود.

• بخش ۴: معرفی و پیاده‌سازی مکانیسم Attention: هسته مرکزی ترنسفورمرها، یعنی مکانیسم Attention، به طور کامل توضیح داده شده و پیاده‌سازی می‌شود. درک این بخش برای ساخت مدل‌های پیشرفته ضروری است.

• بخش ۵: ساختار ترنسفورمرها (Encoder-Decoder): با جزئیات بلوک‌های Encoder و Decoder و نحوه اتصال آن‌ها برای تشکیل یک مدل ترنسفورمر کامل آشنا می‌شوید و این ساختار را از پایه پیاده‌سازی می‌کنید.

• بخش ۶: آموزش مدل زبانی و بهینه‌سازی: فرآیند تعریف تابع هزینه، استفاده از بهینه‌سازها (Optimizers)، و روش‌های آموزش مدل با مجموعه داده‌های بزرگ بررسی می‌شود. همچنین روش‌های هایپرپارامتر تیونینگ (Hyperparameter Tuning) آموزش داده می‌شود.

• بخش ۷: ارزیابی و تولید متن: یاد می‌گیرید چگونه عملکرد مدل خود را با متریک‌های استاندارد ارزیابی کنید و سپس از مدل آموزش‌دیده برای تولید متن‌های جدید، تکمیل جملات، و انجام سایر وظایف مولد استفاده کنید.

• بخش ۸: نگاهی به مدل‌های LLM پیشرفته (اختیاری): این بخش نگاهی کوتاه به مدل‌های بزرگ زبانی موجود در بازار مانند GPT-3/4، BERT، و کاربردهای آن‌ها دارد تا دید کلی نسبت به اکوسیستم LLM به دست آورید.