در سال‌های اخیر، پردازش زبان طبیعی (NLP) به یکی از داغ‌ترین حوزه‌های هوش مصنوعی تبدیل شده و به سرعت در حال تغییر نحوه تعامل ما با فناوری است. از دستیارهای صوتی هوشمند مانند سیری و الکسا گرفته تا ابزارهای ترجمه آنی و سیستم‌های پاسخ‌گویی به سؤالات، مدل‌های زبانی پیشرفته در حال نفوذ به تمام جنبه‌های زندگی روزمره ما هستند. در قلب این انقلاب، مدل‌های مبتنی بر معماری ترنسفورمر (Transformer)، به‌ویژه مدل BERT، قرار دارند که با دستیابی به نتایج پیشرفته، مرزهای توانایی ماشین در درک زبان انسان را جابجا کرده‌اند.

اما این پیشرفت‌ها با یک چالش بزرگ همراه بوده‌اند: این مدل‌ها بسیار پیچیده و از نظر محاسباتی سنگین هستند. اجرای آن‌ها نیازمند قدرت پردازشی عظیمی است که معمولاً تنها در مراکز داده و با استفاده از پردازنده‌های گرافیکی (GPU) پرمصرف ممکن است. این محدودیت، استفاده از چنین مدل‌هایی را در دستگاه‌های لبه (Edge Devices) – مانند گوشی‌های هوشمند، ساعت‌های هوشمند، و دستگاه‌های اینترنت اشیا (IoT) – که با محدودیت‌های شدید انرژی و توان پردازشی مواجه هستند، تقریباً غیرممکن می‌سازد.

مقاله “NPE: An FPGA-based Overlay Processor for Natural Language Processing” به طور مستقیم این چالش کلیدی را هدف قرار می‌دهد. اهمیت این پژوهش در ارائه یک راه‌حل سخت‌افزاری نوآورانه است که امکان اجرای مدل‌های پیچیده NLP را بر روی دستگاه‌های کم‌مصرف فراهم می‌کند. این مقاله یک پردازشگر پوششی (Overlay Processor) به نام NPE را معرفی می‌کند که بر روی تراشه‌های FPGA پیاده‌سازی شده و می‌تواند تعادلی بی‌نظیر بین کارایی، انعطاف‌پذیری و مصرف انرژی پایین برقرار کند. این دستاورد می‌تواند راه را برای نسل جدیدی از دستگاه‌های هوشمند که قادر به درک و پردازش زبان به صورت محلی، سریع و با حفظ حریم خصوصی هستند، هموار سازد.

این مقاله حاصل همکاری تیمی از پژوهشگران برجسته، شامل حمزه خان، اسما خان، زینب خان، لون بین هوانگ، کان وانگ و لی هه است. تخصص این تیم در حوزه معماری سخت‌افزار (Hardware Architecture) و طراحی سیستم‌های دیجیتال برای شتاب‌دهی به الگوریتم‌های هوش مصنوعی متمرکز است.

زمینه این تحقیق در تقاطع سه حوزه اصلی قرار دارد:

• پردازش زبان طبیعی (NLP): تمرکز بر روی مدل‌های مبتنی بر ترنسفورمر مانند BERT که نیاز به محاسبات ماتریسی سنگین و توابع غیرخطی پیچیده دارند.
• معماری کامپیوتر: جستجو برای یافتن معماری‌های سخت‌افزاری بهینه که بتوانند این محاسبات را سریع‌تر و با مصرف انرژی کمتر از پردازنده‌های عمومی (CPU) و پردازنده‌های گرافیکی (GPU) انجام دهند.
• فناوری FPGA: استفاده از آرایه‌های گیت قابل برنامه‌ریزی میدانی (FPGA) به عنوان یک بستر ایده‌آل. FPGAها به دلیل قابلیت پیکربندی مجدد و موازی‌سازی بالا، امکان طراحی شتاب‌دهنده‌های سفارشی را فراهم می‌کنند که برای کاربردهای خاص بهینه‌سازی شده‌اند.

پژوهشگران در این مقاله به دنبال حل یک مشکل اساسی در طراحی شتاب‌دهنده‌ها هستند: چگونه می‌توان یک سخت‌افزار ساخت که هم کارایی بالایی داشته باشد و هم به اندازه کافی انعطاف‌پذیر باشد تا بتواند مدل‌های آینده را بدون نیاز به طراحی مجدد اجرا کند؟ راه‌حل پیشنهادی آن‌ها، یعنی «پردازشگر پوششی»، پاسخی نوآورانه به این پرسش است.

مقاله، پردازشگری به نام NPE را معرفی می‌کند که یک راه‌حل سخت‌افزاری مبتنی بر FPGA برای اجرای کارآمد مدل‌های مختلف NLP است. برخلاف پردازش تصویر که عمدتاً بر عملیات ماتریسی خطی با دقت پایین متکی است، مدل‌های ترنسفورمر در NLP از طیف گسترده‌ای از عملیات غیرخطی با دقت بالاتر و فرکانس بیشتر استفاده می‌کنند (مانند Softmax, GELU, Layer Normalization) که پیاده‌سازی آن‌ها بر روی سخت‌افزار را چالش‌برانگیز می‌کند.

NPE به عنوان یک پردازشگر پوششی طراحی شده است. این بدان معناست که یک لایه انتزاعی نرم‌افزاری بر روی سخت‌افزار قابل پیکربندی FPGA ایجاد می‌کند. این ویژگی به کاربر نهایی اجازه می‌دهد تا مدل‌های جدید NLP را بدون نیاز به دانش عمیق در زمینه طراحی سخت‌افزار یا پیکربندی مجدد FPGA، بر روی این پردازشگر اجرا کند. این انعطاف‌پذیری، NPE را از شتاب‌دهنده‌های تخصصی که فقط برای یک مدل خاص (مثلاً BERT) طراحی شده و غیرقابل تغییر هستند، متمایز می‌سازد.

نتایج کلیدی نشان می‌دهند که NPE قادر است مدل سنگین BERT را با تأخیر (Latency) مناسب برای کاربردهای هوش مصنوعی محاوره‌ای (مانند چت‌بات‌ها) به صورت آنی اجرا کند. مهم‌تر از آن، این کار را با ۴ برابر مصرف انرژی کمتر نسبت به CPU و ۶ برابر کمتر نسبت به GPU انجام می‌دهد. علاوه بر این، NPE در مقایسه با شتاب‌دهنده‌های تخصصی مشابه برای BERT، از ۳ برابر منابع سخت‌افزاری کمتری بر روی تراشه FPGA استفاده می‌کند. این مقاله در نهایت NPE را به عنوان یک راه‌حل مقرون‌به‌صرفه، کم‌مصرف و انعطاف‌پذیر برای پردازش زبان طبیعی در دستگاه‌های لبه معرفی می‌کند.

برای دستیابی به این نتایج، نویسندگان یک رویکرد چندلایه را در طراحی و ارزیابی NPE به کار گرفتند:

• طراحی معماری پوششی (Overlay Architecture): هسته اصلی نوآوری این مقاله، طراحی یک معماری پوششی با مجموعه دستورالعمل سفارشی (ISA) است که برای عملیات رایج در مدل‌های NLP بهینه‌سازی شده است. این معماری شامل واحدهای پردازشی موازی برای محاسبات ماتریسی و یک واحد اجرایی قابل برنامه‌ریزی برای توابع غیرخطی است. این واحد به جای داشتن سخت‌افزار مجزا برای هر تابع (مانند یک شتاب‌دهنده برای Softmax و دیگری برای GELU)، می‌تواند این توابع را از طریق دنباله‌ای از دستورالعمل‌های ساده اجرا کند، که منجر به صرفه‌جویی چشمگیر در منابع می‌شود.
• پیاده‌سازی بر روی FPGA: معماری NPE با استفاده از زبان‌های توصیف سخت‌افزار (مانند Verilog یا VHDL) طراحی و بر روی یک تراشه FPGA واقعی پیاده‌سازی شد. این مرحله شامل سنتز، جایابی و مسیریابی طرح برای اطمینان از عملکرد صحیح و دستیابی به فرکانس کاری مطلوب بود.
• توسعه زنجیره ابزار نرم‌افزاری: برای تحقق وعده «برنامه‌پذیری شبه‌نرم‌افزاری»، یک کامپایلر توسعه داده شد. این کامپایلر مدل‌های NLP سطح بالا (که با فریمورک‌هایی مانند TensorFlow یا PyTorch تعریف شده‌اند) را دریافت کرده و آن‌ها را به کدهای ماشین قابل اجرا بر روی پردازشگر NPE ترجمه می‌کند. این امر فرآیند استقرار مدل‌های جدید را برای توسعه‌دهندگان نرم‌افزار بسیار ساده می‌کند.
• ارزیابی و محک‌زنی (Benchmarking): عملکرد NPE به طور جامع ارزیابی شد. مدل استاندارد BERT به عنوان معیار انتخاب و بر روی NPE اجرا گردید. معیارهای کلیدی عملکرد شامل تأخیر (زمان لازم برای پردازش یک ورودی)، توان عملیاتی (تعداد ورودی‌های پردازش‌شده در ثانیه)، مصرف انرژی (بر حسب وات) و میزان استفاده از منابع FPGA (مانند LUTs, BRAMs, DSPs) اندازه‌گیری شد.
• تحلیل مقایسه‌ای: نتایج به دست آمده از NPE با چندین پلتفرم دیگر مقایسه شد:
  • پردازنده عمومی (CPU): یک CPU مدرن سرور یا دسکتاپ.
  • پردازنده گرافیکی (GPU): یک GPU قدرتمند که معمولاً برای بارهای کاری هوش مصنوعی استفاده می‌شود.
  • شتاب‌دهنده‌های تخصصی (Specialized Accelerators): طرح‌های سخت‌افزاری دیگری که در مقالات علمی منتشر شده و به طور خاص برای شتاب‌دهی به مدل BERT بر روی FPGA طراحی شده‌اند.

تحلیل نتایج به دست آمده از ارزیابی NPE، چندین یافته مهم و تأثیرگذار را آشکار می‌سازد:

1. بهره‌وری فوق‌العاده در مصرف انرژی: NPE به شکل چشمگیری کم‌مصرف‌تر از راه‌حل‌های رایج است. نتایج نشان می‌دهد که این پردازشگر با مصرف انرژی ۴ برابر کمتر از CPU و ۶ برابر کمتر از GPU، وظایف مشابهی را انجام می‌دهد. این ویژگی آن را به یک گزینه ایده‌آل برای دستگاه‌های متکی به باتری یا سیستم‌هایی با بودجه حرارتی محدود تبدیل می‌کند.
2. عملکرد بلادرنگ برای کاربردهای محاوره‌ای: این پردازشگر توانست مدل BERT را با تأخیر کافی پایین اجرا کند تا الزامات سیستم‌های هوش مصنوعی محاوره‌ای را برآورده سازد. این یعنی NPE می‌تواند در اپلیکیشن‌هایی مانند دستیارهای صوتی و چت‌بات‌ها که پاسخ سریع در آن‌ها حیاتی است، به کار گرفته شود.
3. کارایی بالا در استفاده از منابع: یکی از شگفت‌انگیزترین نتایج، بهینگی NPE در استفاده از منابع سخت‌افزاری است. این معماری ۳ برابر منابع FPGA کمتری در مقایسه با شتاب‌دهنده‌های تخصصی موجود برای BERT مصرف می‌کند. این به معنای امکان استفاده از تراشه‌های FPGA کوچک‌تر و ارزان‌تر است و یا فضای خالی بیشتری برای پیاده‌سازی سایر عملکردها بر روی همان تراشه باقی می‌گذارد.
4. انعطاف‌پذیری و آینده‌نگری: شاید مهم‌ترین دستاورد NPE، انعطاف‌پذیری آن باشد. برخلاف شتاب‌دهنده‌هایی که برای یک مدل خاص سیم‌کشی شده‌اند، NPE می‌تواند برای اجرای مدل‌های جدید و آینده NLP از طریق به‌روزرسانی نرم‌افزاری، بدون نیاز به پیکربندی مجدد سخت‌افزار، تطبیق داده شود. این قابلیت، چرخه توسعه را کوتاه کرده و سرمایه‌گذاری سخت‌افزاری را در برابر تغییرات سریع در حوزه NLP محافظت می‌کند.

دستاوردهای NPE پیامدهای عملی گسترده‌ای برای آینده فناوری دارد. این پردازشگر می‌تواند نیروی محرکه نسل جدیدی از کاربردهای هوش مصنوعی در لبه (AI at the Edge) باشد:

• دستیارهای صوتی هوشمند و مستقل: دستگاه‌هایی مانند اسپیکرهای هوشمند یا سیستم‌های داخل خودرو می‌توانند فرامین صوتی را به صورت کاملاً محلی پردازش کنند. این امر نه تنها سرعت پاسخ‌دهی را افزایش می‌دهد، بلکه با جلوگیری از ارسال داده‌های صوتی حساس به سرورهای ابری، حریم خصوصی کاربران را نیز به طور کامل حفظ می‌کند.
• ابزارهای ترجمه آنی و آفلاین: تصور کنید دستگاهی قابل حمل دارید که می‌تواند مکالمات را به صورت آنی و بدون نیاز به اتصال به اینترنت ترجمه کند. NPE چنین کاربردی را امکان‌پذیر می‌سازد.
• رباتیک پیشرفته: ربات‌هایی که در محیط‌های صنعتی یا خانگی فعالیت می‌کنند، می‌توانند دستورات به زبان طبیعی را درک کرده و به آن‌ها پاسخ دهند، بدون اینکه به یک اتصال دائمی به شبکه وابسته باشند.
• تحلیل هوشمند متن در دستگاه‌های IoT: سنسورها و دستگاه‌های هوشمند می‌توانند داده‌های متنی (مانند بازخورد کاربران) را به صورت محلی تحلیل کرده و تصمیمات هوشمندانه‌ای اتخاذ کنند.

به طور خلاصه، دستاورد اصلی این مقاله، دموکراتیزه کردن هوش مصنوعی پیشرفته است؛ یعنی فراهم آوردن امکان استفاده از قدرتمندترین مدل‌های زبانی بر روی سخت‌افزارهای ارزان‌قیمت و کم‌مصرف که در دسترس همگان قرار دارند.

مقاله “NPE: An FPGA-based Overlay Processor for Natural Language Processing” یک گام مهم رو به جلو در زمینه سخت‌افزارهای ویژه هوش مصنوعی است. این پژوهش با موفقیت به چالش بزرگ اجرای مدل‌های سنگین NLP بر روی دستگاه‌های محدود از نظر منابع پاسخ می‌دهد. پردازشگر NPE با ارائه یک معماری پوششی نوآورانه، توانسته است به تعادلی بی‌سابقه میان کارایی بالا، مصرف انرژی بسیار پایین، بهره‌وری در استفاده از منابع و انعطاف‌پذیری نرم‌افزاری دست یابد.

این راه‌حل نه تنها از پردازنده‌های عمومی و گرافیکی به مراتب بهینه‌تر عمل می‌کند، بلکه نسبت به شتاب‌دهنده‌های تخصصی نیز انعطاف‌پذیرتر و کم‌هزینه‌تر است. NPE نشان می‌دهد که آینده هوش مصنوعی لزوماً در انحصار مراکز داده بزرگ و پرمصرف نیست، بلکه می‌توان هوشمندی را به صورت کارآمد و ایمن به دستگاه‌های پیرامون ما آورد. این پژوهش راه را برای نوآوری‌های بی‌شمار در زمینه دستگاه‌های هوشمند تعاملی، حفظ حریم خصوصی و کاربردهای هوش مصنوعی آفلاین هموار می‌کند و نقشه راهی برای طراحی نسل آینده شتاب‌دهنده‌های سخت‌افزاری ارائه می‌دهد.