این مقاله به بررسی یک چارچوب نوآورانه برای استنتاج همکارانه بین دستگاه‌های اینترنت اشیا (IoT) و لبه‌های شبکه می‌پردازد. با توجه به رشد روزافزون کاربردهای شبکه‌های عصبی عمیق (DNN) در زمینه‌های مختلف مانند بینایی ماشین و پردازش زبان طبیعی، نیاز به راهکارهایی کارآمدتر برای اجرای این مدل‌ها در دستگاه‌های با محدودیت منابع ضروری است. این مقاله با ارائه یک رویکرد تطبیقی مبتنی بر یادگیری تقویتی عمیق (DRL) به این چالش پاسخ می‌دهد.

در دنیای امروز، شبکه‌های عصبی عمیق (DNN) به عنوان ابزاری قدرتمند در بسیاری از زمینه‌ها از جمله بینایی ماشین (CV) و پردازش زبان طبیعی (NLP) ظاهر شده‌اند. توانایی این شبکه‌ها در استخراج ویژگی‌های پیچیده از داده‌ها، آن‌ها را به گزینه‌ای ایده‌آل برای حل مسائل گوناگون تبدیل کرده است. با این حال، مدل‌های DNN معمولاً دارای پارامترهای بسیار زیادی هستند و نیازمند محاسبات سنگین می‌باشند. این امر اجرای آن‌ها را بر روی دستگاه‌های اینترنت اشیا (IoT) که دارای محدودیت‌های سخت‌افزاری و مصرف انرژی هستند، دشوار می‌سازد.

روش‌های سنتی مبتنی بر محاسبات ابری یا تنها بر روی دستگاه، دارای محدودیت‌هایی هستند. محاسبات ابری نیازمند ارسال حجم زیادی از داده‌ها به سرورهای مرکزی است که می‌تواند باعث افزایش تأخیر و بار شبکه شود. از سوی دیگر، اجرای کامل مدل‌های DNN بر روی دستگاه‌های IoT می‌تواند به سرعت منابع آن‌ها را مصرف کرده و عمر باتری را کاهش دهد.

این مقاله با ارائه یک چارچوب استنتاج همکارانه دستگاه-لبه، به دنبال ایجاد تعادل بین بار محاسباتی و دقت استنتاج است. ایده اصلی این است که بخشی از محاسبات DNN بر روی دستگاه IoT و بخش دیگری بر روی لبه شبکه انجام شود. این امر باعث کاهش بار محاسباتی بر روی دستگاه و همچنین کاهش تأخیر و مصرف انرژی می‌شود.

این مقاله توسط Tao Niu, Yinglei Teng, Zhu Han, و Panpan Zou نوشته شده است. نویسندگان این مقاله دارای تخصص در زمینه‌های یادگیری ماشین، هوش مصنوعی، شبکه‌سازی و معماری اینترنت هستند. زمینه تحقیقاتی آن‌ها شامل بهینه‌سازی عملکرد شبکه‌های عصبی عمیق در محیط‌های با محدودیت منابع، توسعه الگوریتم‌های یادگیری تقویتی برای مسائل شبکه‌سازی و طراحی چارچوب‌های استنتاج همکارانه دستگاه-لبه می‌باشد.

چکیده این مقاله به شرح زیر است:

“با توجه به گسترش روزافزون کاربردهای شبکه‌های عصبی عمیق (DNN)، اجرای کارآمد این مدل‌ها در دستگاه‌های اینترنت اشیا (IoT) به یک چالش مهم تبدیل شده است. در این مقاله، یک چارچوب تطبیقی استنتاج همکارانه دستگاه-لبه مبتنی بر یادگیری تقویتی عمیق (DRL) ارائه می‌شود. این چارچوب با استفاده از الگوریتم بازیگر-منتقد نرم (SAC) برای تصمیم‌گیری در مورد نقطه خروج، نقطه تقسیم و نرخ فشرده‌سازی در مدل DNN، به صورت پویا به شرایط شبکه و منابع دستگاه سازگار می‌شود. نتایج آزمایش‌ها نشان می‌دهد که این چارچوب در مقایسه با روش‌های سنتی، عملکرد بهتری را از نظر تأخیر و دقت استنتاج ارائه می‌دهد.”

به طور خلاصه، این مقاله یک راهکار هوشمندانه برای اجرای مدل‌های DNN در محیط‌های IoT ارائه می‌دهد که با تقسیم بار محاسباتی بین دستگاه و لبه و استفاده از الگوریتم یادگیری تقویتی، عملکرد را بهینه می‌کند.

روش‌شناسی تحقیق در این مقاله شامل چند مرحله کلیدی است:

1. مدل‌سازی مسئله: مسئله استنتاج همکارانه دستگاه-لبه به عنوان یک مسئله تصمیم‌گیری ترتیبی (Sequential Decision-Making) مدل‌سازی می‌شود که در آن عامل (Agent) باید تصمیم‌هایی را در مورد نحوه تقسیم و اجرای مدل DNN بگیرد.
2. طراحی چارچوب: یک چارچوب استنتاج همکارانه مبتنی بر یادگیری تقویتی عمیق طراحی می‌شود که شامل یک عامل یادگیرنده (Agent) و یک محیط (Environment) است.
3. انتخاب الگوریتم یادگیری تقویتی: الگوریتم بازیگر-منتقد نرم (SAC) برای یادگیری عامل انتخاب می‌شود. SAC یک الگوریتم DRL خارج از سیاست (Off-Policy) است که از یک تابع سیاست نرم (Soft Policy) استفاده می‌کند.
4. طراحی تابع پاداش: یک تابع پاداش (Reward Function) طراحی می‌شود که هم دقت استنتاج و هم تأخیر را در نظر می‌گیرد.
5. پیاده‌سازی و ارزیابی: چارچوب پیشنهادی بر روی یک پلتفرم آزمایشگاهی شامل Raspberry Pi 4 و PC پیاده‌سازی و با روش‌های سنتی مقایسه می‌شود.

به عنوان مثال، برای انتخاب نقطه خروج، مدل Alexnet به گونه‌ای طراحی می‌شود که در لایه‌های میانی، امکان خروج زودهنگام و ارائه تخمین وجود داشته باشد. الگوریتم SAC-d با در نظر گرفتن تأخیر و دقت به عنوان پاداش، بهترین نقطه خروج را به صورت پویا تعیین می‌کند. این رویکرد، چارچوب را قادر می‌سازد تا به شرایط متغیر شبکه و منابع پردازشی دستگاه پاسخ دهد.

یافته‌های کلیدی این تحقیق به شرح زیر است:

• چارچوب استنتاج همکارانه پیشنهادی، عملکرد بهتری را در مقایسه با روش‌های سنتی مبتنی بر محاسبات ابری یا تنها بر روی دستگاه، از نظر تأخیر و دقت استنتاج ارائه می‌دهد.
• الگوریتم بازیگر-منتقد نرم (SAC) برای بهینه‌سازی استنتاج همکارانه در محیط‌های پویا، بسیار مؤثر است.
• استفاده از تکنیک‌های فشرده‌سازی مانند کوانتیزاسیون اعداد صحیح (Integer Quantization) می‌تواند به طور قابل توجهی حجم داده‌های ارسالی بین دستگاه و لبه را کاهش دهد.

نتایج آزمایش‌ها نشان می‌دهد که با استفاده از این چارچوب، می‌توان تا 50% تأخیر را کاهش داد و در عین حال دقت استنتاج را در سطح قابل قبولی حفظ کرد.

این تحقیق دارای کاربردهای گسترده‌ای در زمینه‌های مختلف است، از جمله:

• بینایی ماشین در محیط‌های اینترنت اشیا: تشخیص اشیاء، تشخیص چهره و سایر کاربردهای بینایی ماشین در دوربین‌های مداربسته، خودروهای خودران و سایر دستگاه‌های اینترنت اشیا.
• پردازش زبان طبیعی در محیط‌های اینترنت اشیا: پردازش صدا، تشخیص گفتار و سایر کاربردهای پردازش زبان طبیعی در بلندگوهای هوشمند، دستیارهای صوتی و سایر دستگاه‌های اینترنت اشیا.
• نظارت بر سلامت از راه دور: تحلیل داده‌های حسگرهای پوشیدنی برای تشخیص بیماری‌ها و ارائه مراقبت‌های بهداشتی به صورت از راه دور.

دستاورد اصلی این تحقیق، ارائه یک چارچوب کارآمد و انعطاف‌پذیر برای استنتاج همکارانه دستگاه-لبه است که می‌تواند به طور قابل توجهی عملکرد برنامه‌های مبتنی بر DNN را در محیط‌های IoT بهبود بخشد. این چارچوب می‌تواند به توسعه برنامه‌های هوشمندتر و کارآمدتر در زمینه‌های مختلف کمک کند.

در مجموع، این مقاله یک گام مهم در جهت بهینه‌سازی اجرای مدل‌های DNN در محیط‌های اینترنت اشیا برمی‌دارد. چارچوب استنتاج همکارانه دستگاه-لبه پیشنهادی، با استفاده از یادگیری تقویتی عمیق و تکنیک‌های فشرده‌سازی، می‌تواند به طور قابل توجهی عملکرد برنامه‌های مبتنی بر DNN را بهبود بخشد. این تحقیق می‌تواند به توسعه برنامه‌های هوشمندتر و کارآمدتر در زمینه‌های مختلف کمک کند و راه را برای کاربردهای جدید در حوزه اینترنت اشیا هموار سازد.

به عنوان پیشنهاد برای تحقیقات آینده، می‌توان به بررسی امکان استفاده از الگوریتم‌های یادگیری خودراهبر (Self-Supervised Learning) برای پیش‌آموزش مدل‌های DNN بر روی دستگاه‌های IoT و همچنین توسعه الگوریتم‌های یادگیری تقویتی توزیع‌شده (Distributed Reinforcement Learning) برای مقیاس‌پذیری بیشتر چارچوب اشاره کرد.