ترجمه فارسی مقاله استفاده نادرست شبیه سازی شده از مدل های زبان بزرگ و سیستم های اعتبار بالینی

چکیده

Large language models (LLMs) have been proposed to support many healthcare tasks, including disease diagnostics and treatment personalization. While AI may be applied to assist or enhance the delivery of healthcare, there is also a risk of misuse. LLMs could be used to allocate resources via unfair, unjust, or inaccurate criteria. For example, a social credit system uses big data to assess “trustworthiness” in society, penalizing those who score poorly based on evaluation metrics defined only by a power structure (e.g., a corporate entity or governing body). Such a system may be amplified by powerful LLMs which can evaluate individuals based on multimodal data – financial transactions, internet activity, and other behavioral inputs. Healthcare data is perhaps the most sensitive information which can be collected and could potentially be used to violate civil liberty or other rights via a “clinical credit system”, which may include limiting access to care. The results of this study show that LLMs may be biased in favor of collective or systemic benefit over protecting individual rights, potentially enabling this type of future misuse. Moreover, experiments in this report simulate how clinical datasets might be exploited with current LLMs, demonstrating the urgency of addressing these ethical dangers. Finally, strategies are proposed to mitigate the risk of developing large AI models for healthcare.

چکیده به فارسی (ترجمه ماشینی)

مدل های بزرگ زبان (LLM) برای پشتیبانی از بسیاری از کارهای بهداشتی از جمله تشخیص بیماری و شخصی سازی درمان پیشنهاد شده است.در حالی که ممکن است هوش مصنوعی برای کمک یا تقویت مراقبت های بهداشتی اعمال شود ، خطر سوء استفاده نیز وجود دارد.LLMS می تواند برای تخصیص منابع از طریق معیارهای ناعادلانه ، ناعادلانه یا نادرست استفاده شود.به عنوان مثال ، یک سیستم اعتباری اجتماعی از داده های بزرگ برای ارزیابی “اعتماد به نفس” در جامعه استفاده می کند ، و بر اساس معیارهای ارزیابی که فقط توسط یک ساختار قدرت تعریف می شود (به عنوان مثال ، یک نهاد شرکتی یا نهاد حاکم) ، مجازات کسانی را که ضعیف هستند ، مجازات می کنند.چنین سیستمی ممکن است توسط LLM های قدرتمند تقویت شود که می تواند افراد را بر اساس داده های چند مدلی ارزیابی کند – معاملات مالی ، فعالیت اینترنتی و سایر ورودی های رفتاری.داده های بهداشتی شاید حساس ترین اطلاعاتی باشد که می تواند جمع آوری شود و به طور بالقوه می تواند برای نقض آزادی مدنی یا سایر حقوق از طریق “سیستم اعتباری بالینی” مورد استفاده قرار گیرد ، که ممکن است شامل محدود کردن دسترسی به مراقبت باشد.نتایج این مطالعه نشان می دهد که LLMS ممکن است به نفع منافع جمعی یا سیستمی نسبت به حمایت از حقوق فردی مغرضانه باشد ، و به طور بالقوه این نوع سوء استفاده در آینده را قادر می سازد.علاوه بر این ، آزمایشات موجود در این گزارش چگونگی بهره برداری از مجموعه داده های بالینی با LLM های فعلی را شبیه سازی می کند و نشان دهنده فوریت پرداختن به این خطرات اخلاقی است.سرانجام ، استراتژی هایی برای کاهش خطر توسعه مدل های بزرگ هوش مصنوعی برای مراقبت های بهداشتی پیشنهاد شده است.