ترجمه فارسی مقاله بهینه‌سازی مدل‌های زبان بزرگ برای پیش‌بینی تخلیه: بهترین روش‌ها در استفاده از گزارش‌های حسابرسی پرونده الکترونیک سلامت

چکیده

Electronic Health Record (EHR) audit log data are increasingly utilized for clinical tasks, from workflow modeling to predictive analyses of discharge events, adverse kidney outcomes, and hospital readmissions. These data encapsulate user-EHR interactions, reflecting both healthcare professionals’ behavior and patients’ health statuses. To harness this temporal information effectively, this study explores the application of Large Language Models (LLMs) in leveraging audit log data for clinical prediction tasks, specifically focusing on discharge predictions. Utilizing a year’s worth of EHR data from Vanderbilt University Medical Center, we fine-tuned LLMs with randomly selected 10,000 training examples. Our findings reveal that LLaMA-2 70B, with an AUROC of 0.80 [0.77-0.82], outperforms both GPT-4 128K in a zero-shot, with an AUROC of 0.68 [0.65-0.71], and DeBERTa, with an AUROC of 0.78 [0.75-0.82]. Among various serialization methods, the first-occurrence approach—wherein only the initial appearance of each event in a sequence is retained—shows superior performance. Furthermore, for the fine-tuned LLaMA-2 70B, logit outputs yield a higher AUROC of 0.80 [0.77-0.82] compared to text outputs, with an AUROC of 0.69 [0.67-0.72]. This study underscores the potential of fine-tuned LLMs, particularly when combined with strategic sequence serialization, in advancing clinical prediction tasks.

چکیده به فارسی (ترجمه ماشینی)

داده های ورود به سیستم حسابرسی سلامت الکترونیکی (EHR) به طور فزاینده ای برای کارهای بالینی مورد استفاده قرار می گیرد ، از مدل سازی گردش کار گرفته تا تجزیه و تحلیل پیش بینی حوادث ترخیص ، نتایج نامطلوب کلیه و بستری در بیمارستان.این داده ها تعامل کاربر-EHR را محاصره می کنند ، که منعکس کننده رفتار متخصصان بهداشت و وضعیت سلامتی بیماران است.برای مهار این اطلاعات زمانی به طور مؤثر ، این مطالعه به بررسی استفاده از مدل های بزرگ زبان (LLM) در اعمال داده های ورود به سیستم حسابرسی برای کارهای پیش بینی بالینی ، به طور خاص با تمرکز بر پیش بینی های تخلیه می پردازد.با استفاده از داده های EHR یک سال از مرکز پزشکی دانشگاه Vanderbilt ، LLMS را با 10،000 نمونه آموزش به طور تصادفی انتخاب کردیم.یافته های ما نشان می دهد که Llama-2 70B ، با AUROC 0.80 [0.77-0.82] ، از هر دو GPT-4 128K در یک شات صفر ، با AUROC 0.68 [0.65-0.71] و Deberta ، با یک AUROC از AUROC بهتر است.0.78 [0.75-0.82].در میان روشهای مختلف سریال سازی ، رویکرد وقوع اول-جایی که فقط ظاهر اولیه هر رویداد در یک دنباله حفظ می شود-عملکرد برتر را نشان می دهد.علاوه بر این ، برای تنظیم دقیق LLAMA-2 70B ، خروجی های ورود به سیستم AUROC بالاتری از 0.80 [0.77-0.82] در مقایسه با خروجی های متن ، با AUROC 0.69 [0.67-0.72] به دست می آورند.این مطالعه بر پتانسیل LLM های تنظیم شده ریز ، به ویژه هنگامی که با سریال سازی توالی استراتژیک ترکیب می شود ، در پیشبرد کارهای پیش بینی بالینی تأکید می کند.