مقاله حاضر، با عنوان “TransDeepLab: یک DeepLab v3+ مبتنی بر ترنسفورمر و بدون کانولوشن برای قطعه‌بندی تصاویر پزشکی”، به ارائه یک رویکرد نوین در زمینه قطعه‌بندی تصاویر پزشکی می‌پردازد. این مقاله با بهره‌گیری از معماری ترنسفورمر (Transformer) و حذف لایه‌های کانولوشنی (Convolutional layers)، یک مدل جدید به نام TransDeepLab را معرفی می‌کند که قادر است با دقت و کارایی بالا، ساختارهای پیچیده در تصاویر پزشکی را قطعه‌بندی کند.

اهمیت این مقاله از آنجا نشأت می‌گیرد که قطعه‌بندی دقیق تصاویر پزشکی نقش حیاتی در تشخیص، برنامه‌ریزی درمان و ارزیابی نتایج درمان بیماری‌های مختلف دارد. مدل TransDeepLab با ارائه یک معماری قدرتمند و کارآمد، می‌تواند به پزشکان و متخصصان در این زمینه‌ها کمک شایانی نماید.

این مقاله توسط رضا آزاد، معین حیدری، معین شریعت نیا، احسان خداپناه اقدم، ساناز کریمی جعفربیگلو، احسان عادلی و دوریت مروف به نگارش درآمده است. این محققان از متخصصان برجسته در زمینه‌های پردازش تصویر، بینایی کامپیوتر و یادگیری ماشین هستند.

زمینه تحقیق این مقاله، قطعه‌بندی تصاویر پزشکی با استفاده از شبکه‌های عصبی عمیق (Deep Neural Networks) است. قطعه‌بندی تصاویر پزشکی به معنای تقسیم یک تصویر به مناطق مختلف است که هر منطقه نشان‌دهنده یک ساختار یا بافت خاص در بدن است. این فرآیند در تشخیص و درمان بیماری‌های مختلف از جمله سرطان، بیماری‌های قلبی و عروقی و بیماری‌های مغزی کاربرد دارد.

در چکیده این مقاله آمده است که شبکه‌های عصبی کانولوشنی (CNNs) سال‌ها به عنوان استاندارد اصلی در بینایی کامپیوتر مطرح بوده‌اند. به ویژه، شبکه‌های عصبی عمیق مبتنی بر معماری‌های شناخته‌شده مانند مدل‌های U-شکل با اتصالات میان‌بر (Skip-Connections) یا کانولوشن آتروس (Atrous Convolution) با تجمیع هرمی (Pyramid Pooling) برای طیف گسترده‌ای از وظایف تجزیه و تحلیل تصاویر پزشکی طراحی شده‌اند. مزیت اصلی این معماری‌ها این است که مستعد نگهداری ویژگی‌های محلی متنوع هستند. با این حال، به طور کلی، CNNها به دلیل ویژگی ذاتی اندازه میدان دریافت محدود عملیات کانولوشن، در گرفتن وابستگی‌های دوربرد و همبستگی‌های فضایی ناتوان هستند. از طرف دیگر، ترنسفورمر، با بهره‌گیری از مدل‌سازی اطلاعات سراسری که از مکانیسم خود-توجه (Self-Attention) ناشی می‌شود، اخیراً به عملکرد قابل توجهی در پردازش زبان طبیعی و بینایی کامپیوتر دست یافته است. با این وجود، مطالعات قبلی ثابت می‌کنند که ویژگی‌های محلی و سراسری برای یک مدل عمیق در پیش‌بینی متراکم، مانند قطعه‌بندی ساختارهای پیچیده با اشکال و پیکربندی‌های متفاوت، بسیار مهم هستند. به همین منظور، این مقاله TransDeepLab را پیشنهاد می‌کند، یک ترنسفورمر خالص شبیه به DeepLab برای قطعه‌بندی تصاویر پزشکی. به طور خاص، ما از Swin-Transformer سلسله مراتبی با پنجره‌های شیفت‌داده‌شده برای گسترش DeepLabv3 و مدل‌سازی ماژول تجمیع هرمی فضایی آتروس (ASPP) استفاده می‌کنیم. جستجوی کامل در ادبیات مربوطه نشان داد که ما اولین کسی هستیم که مدل DeepLab را با یک مدل مبتنی بر ترنسفورمر خالص مدل‌سازی می‌کنیم. آزمایش‌های گسترده بر روی وظایف مختلف قطعه‌بندی تصاویر پزشکی تأیید می‌کند که رویکرد ما برتر یا همتراز با اکثر آثار معاصر در ادغام ترنسفورمر دیداری و روش‌های مبتنی بر CNN، همراه با کاهش قابل توجه پیچیدگی مدل، عمل می‌کند. کدها و مدل‌های آموزش‌دیده به صورت عمومی در دسترس هستند.

به طور خلاصه، مقاله یک معماری جدید برای قطعه‌بندی تصاویر پزشکی ارائه می‌دهد که از مزایای ترنسفورمرها برای مدل‌سازی وابستگی‌های دوربرد و اطلاعات سراسری، و در عین حال از معماری DeepLabv3+ بهره می‌برد. این معماری جدید، TransDeepLab نامیده می‌شود و نتایج امیدوارکننده‌ای در مقایسه با روش‌های سنتی مبتنی بر CNN نشان می‌دهد.

روش‌شناسی تحقیق در این مقاله شامل مراحل زیر است:

• طراحی معماری TransDeepLab: نویسندگان یک معماری جدید مبتنی بر ترنسفورمر و الهام گرفته از DeepLabv3+ طراحی کرده‌اند. این معماری شامل یک رمزگذار (Encoder) مبتنی بر Swin-Transformer و یک رمزگشا (Decoder) مبتنی بر ASPP است.
• پیاده‌سازی و آموزش مدل: مدل TransDeepLab با استفاده از داده‌های تصاویر پزشکی مختلف آموزش داده شده است. از تکنیک‌های بهینه‌سازی و تنظیم ابرپارامترها برای بهبود عملکرد مدل استفاده شده است.
• ارزیابی عملکرد مدل: عملکرد مدل TransDeepLab با استفاده از معیارهای ارزیابی استاندارد مانند دقت (Accuracy)، حساسیت (Sensitivity) و ویژگی (Specificity) ارزیابی شده است. نتایج با روش‌های سنتی مبتنی بر CNN مقایسه شده است.
• تجزیه و تحلیل نتایج: نتایج به دست آمده از ارزیابی عملکرد مدل تجزیه و تحلیل شده است. نقاط قوت و ضعف مدل TransDeepLab شناسایی شده و پیشنهادات برای بهبود آن ارائه شده است.

به عنوان مثال، در فرآیند آموزش مدل، از تکنیک Augmentation داده برای افزایش تنوع داده‌ها و جلوگیری از Overfitting استفاده شده است. همچنین، از روش Early Stopping برای جلوگیری از آموزش بیش از حد و بهبود عملکرد تعمیم (Generalization) مدل استفاده شده است.

یافته‌های کلیدی این تحقیق عبارتند از:

• مدل TransDeepLab در قطعه‌بندی تصاویر پزشکی، عملکردی برابر یا بهتر از روش‌های سنتی مبتنی بر CNN ارائه می‌دهد.
• معماری TransDeepLab با حذف لایه‌های کانولوشنی، پیچیدگی مدل را کاهش داده و سرعت پردازش را افزایش می‌دهد.
• ترنسفورمرها در مدل‌سازی وابستگی‌های دوربرد و اطلاعات سراسری در تصاویر پزشکی، بسیار مؤثر هستند.
• مدل TransDeepLab می‌تواند به عنوان یک ابزار قدرتمند برای کمک به پزشکان در تشخیص و درمان بیماری‌های مختلف مورد استفاده قرار گیرد.

نتایج تجربی نشان می‌دهد که TransDeepLab در قطعه‌بندی ساختارهای پیچیده مانند تومورهای مغزی و ضایعات ریوی، عملکرد بهتری نسبت به روش‌های سنتی دارد. این امر به دلیل توانایی ترنسفورمرها در مدل‌سازی وابستگی‌های دوربرد بین پیکسل‌ها در تصویر است.

کاربردها و دستاوردهای این مقاله عبارتند از:

• ارائه یک معماری نوین برای قطعه‌بندی تصاویر پزشکی که می‌تواند در تشخیص و درمان بیماری‌های مختلف مورد استفاده قرار گیرد.
• کاهش پیچیدگی مدل و افزایش سرعت پردازش با حذف لایه‌های کانولوشنی.
• بهبود عملکرد قطعه‌بندی تصاویر پزشکی با استفاده از ترنسفورمرها.
• ارائه یک کد منبع باز (Open Source) که به محققان و توسعه‌دهندگان امکان می‌دهد از مدل TransDeepLab در پروژه‌های خود استفاده کنند. آدرس کد منبع در خلاصه مقاله ذکر شده است: https://github.com/rezazad68/transdeeplab

به عنوان مثال، مدل TransDeepLab می‌تواند در سیستم‌های تشخیص خودکار سرطان، برنامه‌ریزی جراحی و ارزیابی پاسخ به درمان مورد استفاده قرار گیرد. این امر می‌تواند منجر به بهبود دقت تشخیص، کاهش زمان تشخیص و بهبود نتایج درمان شود.

مقاله “TransDeepLab: یک DeepLab v3+ مبتنی بر ترنسفورمر و بدون کانولوشن برای قطعه‌بندی تصاویر پزشکی”، یک گام مهم در جهت توسعه روش‌های نوین قطعه‌بندی تصاویر پزشکی است. مدل TransDeepLab با ارائه یک معماری قدرتمند و کارآمد، می‌تواند به بهبود دقت و کارایی فرآیند قطعه‌بندی کمک کند و در نهایت منجر به بهبود تشخیص و درمان بیماری‌های مختلف شود.

با توجه به نتایج امیدوارکننده‌ای که در این مقاله به دست آمده است، انتظار می‌رود که مدل TransDeepLab در آینده به طور گسترده‌تری در کاربردهای مختلف پزشکی مورد استفاده قرار گیرد. همچنین، این مقاله می‌تواند الهام‌بخش محققان برای توسعه روش‌های جدیدتر و کارآمدتر قطعه‌بندی تصاویر پزشکی باشد. لازم به ذکر است که پژوهشگران دیگر می توانند با استفاده از کد ارائه شده در گیت هاب (https://github.com/rezazad68/transdeeplab) این مدل را در مجموعه داده های خود امتحان کرده و یا آن را بهبود دهند.