در سال‌های اخیر، مدل‌های زبانی بزرگ (Large Language Models – LLMs) مبتنی بر معماری ترنسفورمر، توانایی‌های شگفت‌انگیزی در پردازش زبان طبیعی (NLP) از خود نشان داده‌اند. این مدل‌ها، که نمونه‌های برجسته آن‌ها خانواده GPT و BERT هستند، قادر به تولید متن، ترجمه، خلاصه‌سازی و پاسخ به پرسش‌ها با کیفیتی نزدیک به انسان هستند. با این حال، یک چالش بزرگ بر سر راه استفاده گسترده از این فناوری وجود دارد: اندازه بسیار بزرگ و نیاز محاسباتی فوق‌العاده بالای آن‌ها. این مدل‌ها معمولاً میلیاردها پارامتر دارند و برای آموزش و اجرا به خوشه‌هایی از پردازنده‌های گرافیکی قدرتمند (GPU) در مراکز داده ابری نیاز دارند.

این وابستگی به زیرساخت‌های ابری، استفاده از LLMها را بر روی دستگاه‌های لبه (Edge Devices) مانند گوشی‌های هوشمند، تبلت‌ها و دستگاه‌های اینترنت اشیاء (IoT) تقریباً غیرممکن می‌سازد. این دستگاه‌ها با محدودیت‌های جدی در زمینه توان محاسباتی، حافظه (RAM) و انرژی مواجه هستند. مقاله “Confidant: Customizing Transformer-based LLMs via Collaborative Edge Training” یک راهکار نوآورانه برای این چالش ارائه می‌دهد. اهمیت این پژوهش در آن است که مسیری برای «دموکراتیزه کردن» هوش مصنوعی پیشرفته باز می‌کند؛ به این معنا که به جای اجرای مدل‌ها بر روی سرورهای متمرکز، امکان آموزش، سفارشی‌سازی و اجرای آن‌ها را مستقیماً بر روی دستگاه‌های شخصی کاربران فراهم می‌آورد. این رویکرد نه تنها حریم خصوصی کاربران را با نگه‌داشتن داده‌ها بر روی دستگاه شخصی تقویت می‌کند، بلکه با کاهش تأخیر (Latency) و حذف نیاز به اتصال دائمی به اینترنت، تجربه کاربری را نیز بهبود می‌بخشد.

این مقاله توسط تیمی از پژوهشگران برجسته به نام‌های یوهائو چن (Yuhao Chen)، یوکسوان یان (Yuxuan Yan)، چیان‌چیان یانگ (Qianqian Yang)، یوان‌چائو شو (Yuanchao Shu)، شیبو هی (Shibo He) و جیمینگ چن (Jiming Chen) به نگارش درآمده است. این پژوهشگران در حوزه‌های تخصصی یادگیری ماشین، هوش مصنوعی و سیستم‌های توزیع‌شده، موازی و خوشه‌ای فعالیت دارند.

زمینه اصلی این تحقیق در تقاطع سه حوزه کلیدی قرار دارد:

• یادگیری ماشین روی لبه (Edge AI): انتقال پردازش‌های هوش مصنوعی از فضای ابری به دستگاه‌های نزدیک به کاربر برای افزایش سرعت، امنیت و کارایی.
• رایانش توزیع‌شده (Distributed Computing): استفاده از چندین دستگاه محاسباتی برای حل یک مسئله واحد، که در اینجا به معنای همکاری چندین گوشی هوشمند برای آموزش یک مدل بزرگ است.
• بهینه‌سازی مدل‌های ترنسفورمر: توسعه تکنیک‌هایی برای کاهش حجم و نیاز محاسباتی مدل‌های زبانی بزرگ بدون قربانی کردن کیفیت عملکرد آن‌ها.

مقاله Confidant با ارائه یک چارچوب عملی، دانش نظری این حوزه‌ها را به یک راهکار مهندسی‌شده و کاربردی تبدیل می‌کند که می‌تواند آینده تعامل ما با هوش مصنوعی را متحول سازد.

مقاله Confidant یک چارچوب آموزش مشارکتی چند-بک‌اند (Multi-backend) را برای سفارشی‌سازی (Fine-tuning) مدل‌های زبانی بزرگ پیشرفته بر روی دستگاه‌های موبایل رایج معرفی می‌کند. چالش اصلی، همان‌طور که اشاره شد، محدودیت‌های سخت‌افزاری این دستگاه‌هاست. Confidant برای غلبه بر این مشکل، از یک استراتژی هوشمندانه بهره می‌برد. این چارچوب یک LLM بزرگ را به چندین «زیر-مدل» (Sub-model) کوچک‌تر تقسیم می‌کند، به طوری که هر زیر-مدل به تنهایی در حافظه یک دستگاه موبایل جای می‌گیرد.

سپس، با استفاده از مکانیزم آموزش موازی خط لوله‌ای (Pipeline Parallel Training)، این دستگاه‌ها به صورت هماهنگ و زنجیروار فرآیند آموزش را پیش می‌برند. این روش تضمین می‌کند که آموزش توزیع‌شده به شکلی سریع و کارآمد انجام شود و زمان بیکاری دستگاه‌ها به حداقل برسد. نوآوری کلیدی دیگر این مقاله، ارائه یک زمان‌بند بک‌اند (Backend Scheduler) جدید است که وظایف محاسباتی مختلف (مشخصاً «سرهای توجه» یا Attention Heads در معماری ترنسفورمر) را به صورت هوشمند بین سخت‌افزارهای ناهمگون موجود در یک دستگاه موبایل (مانند CPU و GPU) تخصیص می‌دهد. این کار باعث بهره‌برداری حداکثری از منابع محاسباتی هر دستگاه می‌شود. نتایج اولیه آزمایش‌ها نشان می‌دهد که Confidant موفق به کاهش ۴۵.۳ درصدی مصرف حافظه و افزایش ۸.۰۳ برابری سرعت استنتاج (Inference) در شرایط عملی شده است.

چارچوب Confidant بر سه ستون اصلی استوار است که به صورت هماهنگ برای حل مشکل آموزش LLMها بر روی دستگاه‌های لبه عمل می‌کنند:

الف) پارتیشن‌بندی مدل (Model Partitioning)

اولین گام، شکستن مدل عظیم LLM به قطعات قابل مدیریت است. به جای تلاش برای بارگذاری کل مدل در حافظه محدود یک گوشی، Confidant مدل را به صورت عمودی در طول لایه‌های آن تقسیم می‌کند. هر بخش یا «زیر-مدل» شامل تعدادی از لایه‌های ترنسفورمر است و به یکی از دستگاه‌های شرکت‌کننده در فرآیند آموزش اختصاص داده می‌شود. این تقسیم‌بندی به گونه‌ای انجام می‌شود که هر زیر-مدل به راحتی در حافظه RAM دستگاه میزبان خود قرار گیرد. این تکنیک، که نوعی از موازی‌سازی مدل (Model Parallelism) است، سنگ بنای کل چارچوب را تشکیل می‌دهد.

ب) آموزش موازی خط لوله‌ای (Pipeline Parallel Training)

پس از تقسیم مدل، دستگاه‌ها باید با یکدیگر همکاری کنند. Confidant از یک مکانیزم خط لوله برای این منظور استفاده می‌کند. فرآیند کار شبیه به یک خط مونتاژ صنعتی است:

• داده ورودی (مثلاً یک جمله) به اولین دستگاه در زنجیره داده می‌شود.
• این دستگاه محاسبات مربوط به زیر-مدل خود را انجام می‌دهد (گذر روبه‌جلو یا Forward Pass) و خروجی میانی را به دستگاه دوم ارسال می‌کند.
• دستگاه دوم نیز همین کار را با زیر-مدل خود انجام داده و نتیجه را به دستگاه بعدی می‌دهد. این فرآیند تا آخرین دستگاه ادامه می‌یابد.
• در مرحله گذر روبه‌عقب (Backward Pass) برای محاسبه گرادیان‌ها و به‌روزرسانی وزن‌ها، این فرآیند به صورت معکوس تکرار می‌شود.

این رویکرد خط لوله‌ای باعث می‌شود که در هر لحظه، چندین دستگاه به صورت همزمان بر روی بخش‌های مختلفی از داده‌ها کار کنند، که این امر به طور چشمگیری سرعت کلی آموزش را افزایش می‌دهد و از اتلاف منابع جلوگیری می‌کند.

ج) زمان‌بند بک‌اند هوشمند برای سخت‌افزار ناهمگون

شاید نوآورانه‌ترین بخش Confidant، زمان‌بند هوشمند آن باشد. هر گوشی هوشمند مدرن دارای پردازنده‌های مختلفی است: یک پردازنده مرکزی (CPU) که برای کارهای عمومی بهینه است و یک پردازنده گرافیکی (GPU) که در محاسبات موازی و سنگین ریاضی برتری دارد. زمان‌بند Confidant این ناهمگونی را تشخیص داده و از آن بهره می‌برد. در معماری ترنسفورمر، بلوک‌های «توجه چندسر» (Multi-Head Attention) قلب محاسباتی مدل را تشکیل می‌دهند. این زمان‌بند به صورت پویا تصمیم می‌گیرد که کدام یک از این «سرهای توجه» بر روی CPU و کدام یک بر روی GPU اجرا شوند. بارهای کاری سنگین‌تر و موازی‌پذیر به GPU و بارهای سبک‌تر به CPU سپرده می‌شوند. این تخصیص هوشمندانه منابع، گلوگاه‌های محاسباتی را در هر دستگاه به حداقل رسانده و توان پردازشی آن را به حداکثر می‌رساند.

ارزیابی‌های عملی انجام‌شده توسط نویسندگان، کارایی بالای چارچوب Confidant را به اثبات می‌رساند. دو یافته اصلی این پژوهش عبارتند از:

• کاهش چشمگیر مصرف حافظه: نتایج نشان می‌دهد که Confidant می‌تواند مصرف حافظه را تا ۴۵.۳٪ کاهش دهد. این دستاورد فوق‌العاده مهم است، زیرا مستقیماً به این معناست که مدل‌های بزرگ‌تری می‌توانند بر روی دستگاه‌هایی با حافظه RAM محدودتر (مانند گوشی‌های میان‌رده) اجرا و سفارشی‌سازی شوند. این کاهش حافظه، تفاوت بین «ممکن» و «غیرممکن» بودن اجرای یک مدل بر روی یک دستگاه خاص را رقم می‌زند.
• افزایش فوق‌العاده سرعت استنتاج: در کنار کاهش حافظه، Confidant سرعت استنتاج را تا ۸.۰۳ برابر افزایش می‌دهد. استنتاج به فرآیند استفاده از مدل آموزش‌دیده برای انجام یک کار (مانند تولید پاسخ) گفته می‌شود. چنین افزایشی در سرعت، کاربردهای بلادرنگ (Real-time) مانند چت‌بات‌های پاسخگو، دستیارهای صوتی هوشمند و ابزارهای ترجمه آنی را بر روی دستگاه‌های موبایل کاملاً عملی می‌سازد و تجربه کاربری روان و سریعی را فراهم می‌کند.

پیامدهای عملی چارچوب Confidant بسیار گسترده و تأثیرگذار هستند. این فناوری می‌تواند نحوه توسعه و استفاده از برنامه‌های مبتنی بر هوش مصنوعی را دگرگون کند:

• شخصی‌سازی با حفظ حریم خصوصی: کاربران می‌توانند یک مدل زبانی عمومی را با استفاده از داده‌های شخصی خود (مانند ایمیل‌ها، پیام‌ها یا یادداشت‌ها) سفارشی‌سازی کنند تا یک دستیار هوشمند کاملاً شخصی داشته باشند. از آنجا که تمام این فرآیند بر روی دستگاه خود کاربر و بدون ارسال داده‌ها به سرورهای ابری انجام می‌شود، حریم خصوصی به طور کامل حفظ می‌شود.
• برنامه‌های آفلاین و سریع: برنامه‌هایی مانند خلاصه‌سازی متون، ترجمه زبان یا پاسخ به پرسش‌ها می‌توانند به صورت محلی و بدون نیاز به اینترنت کار کنند. این امر باعث کاهش شدید تأخیر و افزایش قابلیت اطمینان برنامه، به ویژه در مناطقی با اتصال اینترنت ضعیف می‌شود.
• کاهش هزینه‌های زیرساختی: برای توسعه‌دهندگان، حذف نیاز به سرورهای گران‌قیمت ابری برای اجرای مدل‌های هوش مصنوعی به معنای کاهش چشمگیر هزینه‌های عملیاتی است. این امر به شرکت‌های کوچک و استارتاپ‌ها اجازه می‌دهد تا با شرکت‌های بزرگ رقابت کنند.
• توانمندسازی اینترنت اشیاء (IoT): دستگاه‌های هوشمند در خانه یا صنعت می‌توانند به قابلیت‌های پیشرفته پردازش زبان طبیعی مجهز شوند و تعاملات هوشمندتر و طبیعی‌تری با کاربران برقرار کنند.

مقاله “Confidant” با ارائه یک چارچوب نوآورانه، پاسخی عملی و مؤثر به یکی از بزرگ‌ترین چالش‌های فعلی در حوزه هوش مصنوعی، یعنی شکاف بین قدرت مدل‌های زبانی بزرگ و محدودیت‌های دستگاه‌های لبه، ارائه می‌دهد. این پژوهش با ترکیب هوشمندانه تکنیک‌های پارتیشن‌بندی مدل، آموزش موازی خط لوله‌ای و زمان‌بندی آگاه از سخت‌افزار، راه را برای اجرای نسل جدیدی از برنامه‌های هوشمند، شخصی‌سازی‌شده و حافظ حریم خصوصی بر روی دستگاه‌هایی که روزانه از آن‌ها استفاده می‌کنیم، هموار می‌سازد.

Confidant صرفاً یک پیشرفت نظری نیست؛ بلکه یک راهکار مهندسی‌شده است که با نتایج کمی قابل توجه، پتانسیل خود را برای تغییر پارادایم از رایانش ابری-محور به سمت هوش لبه‌ای توزیع‌شده به نمایش می‌گذارد. این کار در را به روی آینده‌ای می‌گشاید که در آن هوش مصنوعی قدرتمند، نه در دیتا سنترهای دوردست، بلکه در دستان خود ما و بر روی دستگاه‌های شخصی‌مان زندگی می‌کند.