ترجمه فارسی مقاله پیمایش کمبود داده ها با استفاده از مدل های پایه: معیار رویکردهای یادگیری چند شات و صفر در تصویربرداری پزشکی

چکیده

Data scarcity is a major limiting factor for applying modern machine learning techniques to clinical tasks. Although sufficient data exists for some well-studied medical tasks, there remains a long tail of clinically relevant tasks with poor data availability. Recently, numerous foundation models have demonstrated high suitability for few-shot learning (FSL) and zero-shot learning (ZSL), potentially making them more accessible to practitioners. However, it remains unclear which foundation model performs best on FSL medical image analysis tasks and what the optimal methods are for learning from limited data. We conducted a comprehensive benchmark study of ZSL and FSL using 16 pretrained foundation models on 19 diverse medical imaging datasets. Our results indicate that BiomedCLIP, a model pretrained exclusively on medical data, performs best on average for very small training set sizes, while very large CLIP models pretrained on LAION-2B perform best with slightly more training samples. However, simply fine-tuning a ResNet-18 pretrained on ImageNet performs similarly with more than five training examples per class. Our findings also highlight the need for further research on foundation models specifically tailored for medical applications and the collection of more datasets to train these models.

چکیده به فارسی (ترجمه ماشینی)

کمبود داده ها یک عامل محدود کننده اصلی برای استفاده از تکنیک های مدرن یادگیری ماشین در کارهای بالینی است.اگرچه داده های کافی برای برخی از کارهای پزشکی مورد مطالعه وجود دارد ، اما یک دم طولانی از کارهای بالینی مرتبط با در دسترس بودن داده های ضعیف وجود دارد.به تازگی ، بسیاری از مدلهای بنیادی ، مناسب بودن برای یادگیری چند عکس (FSL) و یادگیری صفر (ZSL) را نشان داده اند ، که به طور بالقوه آنها را برای پزشکان قابل دسترسی تر می کند.با این حال ، هنوز مشخص نیست که کدام مدل بنیاد در وظایف تجزیه و تحلیل تصویر پزشکی FSL بهترین عملکرد را دارد و روش های بهینه برای یادگیری از داده های محدود چیست.ما یک مطالعه معیار جامع از ZSL و FSL را با استفاده از 16 مدل بنیاد پیش ساخته در 19 مجموعه داده مختلف تصویربرداری پزشکی انجام دادیم.نتایج ما نشان می دهد که Biomedclip ، یک مدل پیش فرض منحصراً بر روی داده های پزشکی ، به طور متوسط ​​بهترین عملکرد را برای اندازه های آموزش بسیار کوچک انجام می دهد ، در حالی که مدل های کلیپ بسیار بزرگی که در Laion-2B پیش فرض شده اند با نمونه های آموزش کمی بیشتر عمل می کنند.با این حال ، به سادگی تنظیم دقیق یک Resnet-18 Preterained در Imagenet به طور مشابه با بیش از پنج نمونه آموزش در هر کلاس انجام می شود.یافته های ما همچنین نیاز به تحقیقات بیشتر در مورد مدلهای بنیادی را که به طور خاص برای برنامه های پزشکی و جمع آوری مجموعه داده های بیشتر برای آموزش این مدل ها متناسب است ، برجسته می کند.