مقاله MedISure: اطمینان از طبقه بندی کننده های تصویر پزشکی مبتنی بر یادگیری ماشین با استفاده از تجزیه و تحلیل مرزی ترکیبی

چکیده

Machine learning (ML) models are becoming integral in healthcare technologies, presenting a critical need for formal assurance to validate their safety, fairness, robustness, and trustworthiness. These models are inherently prone to errors, potentially posing serious risks to patient health and could even cause irreparable harm. Traditional software assurance techniques rely on fixed code and do not directly apply to ML models since these algorithms are adaptable and learn from curated datasets through a training process. However, adapting established principles, such as boundary testing using synthetic test data can effectively bridge this gap. To this end, we present a novel technique called Mix-Up Boundary Analysis (MUBA) that facilitates evaluating image classifiers in terms of prediction fairness. We evaluated MUBA for two important medical imaging tasks — brain tumour classification and breast cancer classification — and achieved promising results. This research aims to showcase the importance of adapting traditional assurance principles for assessing ML models to enhance the safety and reliability of healthcare technologies. To facilitate future research, we plan to publicly release our code for MUBA.

چکیده به فارسی (ترجمه ماشینی)

مدل های یادگیری ماشین (ML) در فن آوری های مراقبت های بهداشتی یکپارچه می شوند و نیاز اساسی به اطمینان رسمی برای اعتبارسنجی ایمنی ، انصاف ، استحکام و اعتماد به نفس دارند.این مدل ها ذاتاً مستعد خطاها هستند ، به طور بالقوه خطرات جدی برای سلامت بیمار ایجاد می کنند و حتی می توانند آسیب جبران ناپذیری ایجاد کنند.تکنیک های تضمین نرم افزار سنتی به کد ثابت متکی هستند و مستقیماً در مورد مدل های ML اعمال نمی شوند زیرا این الگوریتم ها سازگار هستند و از طریق یک فرآیند آموزش از مجموعه داده های سرپرستی یاد می گیرند.با این حال ، تطبیق اصول ایجاد شده ، مانند آزمایش مرزی با استفاده از داده های تست مصنوعی می تواند به طور مؤثر این شکاف را پر کند.برای این منظور ، ما یک تکنیک جدید به نام تجزیه و تحلیل مرزی مخلوط (MUBA) ارائه می دهیم که ارزیابی طبقه بندی کننده های تصویر از نظر انصاف پیش بینی را تسهیل می کند.ما MUBA را برای دو کار مهم تصویربرداری پزشکی – طبقه بندی تومور مغزی و طبقه بندی سرطان پستان – ارزیابی کردیم و به نتایج امیدوار کننده ای رسیدیم.این تحقیق با هدف نشان دادن اهمیت تطبیق اصول تضمین سنتی برای ارزیابی مدلهای ML برای تقویت ایمنی و قابلیت اطمینان فن آوری های مراقبت های بهداشتی انجام شده است.برای تسهیل تحقیقات آینده ، ما قصد داریم کد خود را برای MUBA منتشر کنیم.