ترجمه فارسی مقاله فدکیم: تزریق دانش فدرال تطبیقی ​​در مدلهای بنیاد پزشکی

چکیده

Foundation models have demonstrated remarkable capabilities in handling diverse modalities and tasks, outperforming conventional artificial intelligence (AI) approaches that are highly task-specific and modality-reliant. In the medical domain, however, the development of comprehensive foundation models is constrained by limited access to diverse modalities and stringent privacy regulations. To address these constraints, this study introduces a novel knowledge injection approach, FedKIM, designed to scale the medical foundation model within a federated learning framework. FedKIM leverages lightweight local models to extract healthcare knowledge from private data and integrates this knowledge into a centralized foundation model using a designed adaptive Multitask Multimodal Mixture Of Experts (M3OE) module. This method not only preserves privacy but also enhances the model’s ability to handle complex medical tasks involving multiple modalities. Our extensive experiments across twelve tasks in seven modalities demonstrate the effectiveness of FedKIM in various settings, highlighting its potential to scale medical foundation models without direct access to sensitive data.

چکیده به فارسی (ترجمه ماشینی)

مدلهای بنیاد توانایی های قابل توجهی در انجام روشها و وظایف متنوع نشان داده اند ، و از رویکردهای هوش مصنوعی معمولی (AI) بهتر عمل می کنند که بسیار خاص وظیفه و متناسب با روش هستند.با این حال ، در حوزه پزشکی ، توسعه مدلهای جامع بنیاد با دسترسی محدود به روشهای متنوع و مقررات سختگیرانه حریم خصوصی محدود می شود.برای پرداختن به این محدودیت ها ، این مطالعه یک رویکرد تزریق دانش جدید ، فدکیم ، طراحی شده است که به منظور مقیاس مدل بنیاد پزشکی در یک چارچوب یادگیری فدرال طراحی شده است.فدکیم مدلهای محلی سبک وزن را برای استخراج دانش مراقبت های بهداشتی از داده های خصوصی به دست می آورد و این دانش را در یک مدل بنیاد متمرکز با استفاده از یک ماژول چند منظوره تطبیقی ​​چندتایی از متخصصان (M3OE) ادغام می کند.این روش نه تنها حفظ حریم خصوصی را حفظ می کند بلکه توانایی مدل را در انجام کارهای پیچیده پزشکی شامل چندین روش تقویت می کند.آزمایش های گسترده ما در دوازده کار در هفت روش نشان دهنده اثربخشی فدکیم در تنظیمات مختلف است ، و پتانسیل آن را برای مقیاس مدلهای بنیاد پزشکی بدون دسترسی مستقیم به داده های حساس برجسته می کند.