۱. مقدمه و اهمیت مقاله

در عصر دیجیتال، داده‌های سلامت الکترونیک (EHRs) گنجینه‌ای از اطلاعات ارزشمند برای پیشبرد تحقیقات پزشکی و بهبود مراقبت از بیماران محسوب می‌شوند. در این میان، گزارش‌های بالینی که به صورت متنی و اغلب بدون ساختار مشخص نوشته می‌شوند، حاوی جزئیات غنی از تاریخچه بیمار، تشخیص‌ها، درمان‌ها و نتایج هستند. استخراج اطلاعات کلیدی از این حجم عظیم داده‌های متنی، چالشی مهم در حوزه پردازش زبان طبیعی (NLP) در پزشکی است.

مدل‌های زبان که قادر به درک و تولید زبان انسانی هستند، به ویژه مدل‌های مبتنی بر یادگیری انتقالی (Transfer Learning) با استفاده از مدل‌های از پیش آموزش‌دیده، پیشرفت‌های چشمگیری را در کاربردهای مختلف NLP به ارمغان آورده‌اند. با این حال، مدل‌های عمومی موجود، اغلب فاقد آشنایی کافی با زبان تخصصی حوزه‌های خاص، به‌خصوص زبان بالینی هستند. این امر ضرورت توسعه و انطباق مدل‌های زبان برای کار با داده‌های تخصصی را برجسته می‌سازد.

این مقاله علمی با عنوان “یادگیری ساختارهای زبان بالینی فرانسوی: توسعه و اعتبارسنجی مدل‌های تعبیه کلمه بر پایه ۲۱ میلیون گزارش بالینی از پرونده‌های الکترونیک سلامت” به این چالش اساسی پرداخته است. هدف اصلی پژوهش، بررسی تأثیر انطباق یک مدل زبان عمومی بر گزارش‌های بالینی فرانسوی، بر عملکرد وظایف NLP پزشکی است. این تحقیق گامی مهم در جهت بهره‌برداری مؤثرتر از داده‌های متنی بالینی برای کاربردهای تحقیقاتی و بالینی محسوب می‌شود.

۲. نویسندگان و زمینه تحقیق

این پژوهش توسط تیمی از محققان برجسته شامل Basile Dura، Charline Jean، Xavier Tannier، Alice Calliger، Romain Bey، Antoine Neuraz و Rémi Flicoteaux انجام شده است. این مقاله در دسته‌بندی‌های “محاسبات و زبان” و “یادگیری ماشین” قرار می‌گیرد که نشان‌دهنده ماهیت بین‌رشته‌ای آن است.

زمینه تحقیق این مقاله، حوزه “پردازش زبان طبیعی در پزشکی” (Medical NLP) است. این حوزه بر توسعه و به‌کارگیری الگوریتم‌ها و روش‌های کامپیوتری برای تحلیل و درک زبان انسانی در متون پزشکی تمرکز دارد. هدف نهایی، تسهیل دسترسی به اطلاعات، خودکارسازی فرآیندهای تکراری، کمک به تشخیص و درمان، و در نهایت ارتقاء کیفیت مراقبت‌های بهداشتی است.

با توجه به حجم فزاینده داده‌های متنی در حوزه سلامت، به‌ویژه گزارش‌های بالینی، توانایی استخراج و تحلیل اطلاعات از این منابع، به یک ضرورت تبدیل شده است. این مقاله با تمرکز بر زبان بالینی فرانسوی، به دنبال پر کردن خلأ موجود در مدل‌های زبانی عمومی برای این زبان تخصصی است.

۳. چکیده و خلاصه محتوا

چکیده: مطالعات بالینی با استفاده از داده‌های دنیای واقعی می‌توانند از بهره‌برداری گزارش‌های بالینی، که رسانه‌ای غنی اما بدون ساختار هستند، سود ببرند. برای این منظور، پردازش زبان طبیعی (NLP) می‌تواند اطلاعات مرتبط را استخراج کند. روش‌های مبتنی بر یادگیری انتقالی با استفاده از مدل‌های از پیش آموزش‌دیده، نتایج پیشرفته‌ای را در اکثر برنامه‌های NLP به دست آورده‌اند؛ با این حال، مدل‌های در دسترس عموم، فاقد آشنایی با زبان‌های تخصصی، به‌ویژه در حوزه پزشکی هستند. هدف ما ارزیابی تأثیر انطباق یک مدل زبان با گزارش‌های بالینی فرانسوی بر وظایف NLP پزشکی بعدی بود. ما از مجموعه‌ای متشکل از ۲۱ میلیون گزارش بالینی جمع‌آوری شده از اوت ۲۰۱۷ تا ژوئیه ۲۰۲۱ در بیمارستان‌های دانشگاهی گرند پاریس (APHP) استفاده کردیم تا دو معماری CamemBERT را برای زبان تخصصی تولید کنیم: یکی بازآموزی شده از ابتدا و دیگری با استفاده از CamemBERT به عنوان مقداردهی اولیه. ما از دو مجموعه داده پزشکی برچسب‌گذاری شده فرانسوی برای مقایسه مدل‌های زبان خود با شبکه اصلی CamemBERT استفاده کردیم و اهمیت آماری بهبود را با آزمون ویلکاکسون ارزیابی کردیم. نتایج: مدل‌های ما که بر روی گزارش‌های بالینی پیش‌آموزش داده شده بودند، میانگین امتیاز F1 را در APMed (یک وظیفه مختص APHP) با ۳ امتیاز درصد به ۹۱٪ افزایش دادند، که یک بهبود آماری معنی‌دار بود. آن‌ها همچنین عملکردی قابل مقایسه با CamemBERT اصلی در QUAERO به دست آوردند. این نتایج برای هر دو نسخه تنظیم شده و از ابتدا، با شروع از نمونه‌های بسیار کم پیش‌آموزش، صادق بودند. نتیجه‌گیری: ما ادبیات قبلی را تأیید می‌کنیم که نشان می‌دهد انطباق مدل‌های زبان پیش‌آموزش عمومی مانند CamemBERT بر روی پیکره‌های تخصصی، عملکرد آن‌ها را برای وظایف NLP بالینی بعدی بهبود می‌بخشد. نتایج ما نشان می‌دهد که بازآموزی از ابتدا، افزایش معنی‌دار آماری در عملکرد را در مقایسه با تنظیم دقیق (fine-tuning) ایجاد نمی‌کند.

به طور خلاصه، این مقاله به بررسی چگونگی بهبود درک ماشین از زبان بالینی فرانسوی می‌پردازد. محققان با استفاده از حجم عظیمی از گزارش‌های بالینی واقعی، دو مدل زبان را توسعه دادند: یکی کاملاً از ابتدا آموزش دید و دیگری بر پایه یک مدل موجود (CamemBERT) تنظیم دقیق شد. هدف این بود که ببینند آیا انطباق مدل با داده‌های تخصصی، عملکرد آن را در وظایف NLP پزشکی بهبود می‌بخشد یا خیر. نتایج نشان دادند که مدل‌های انطباق یافته، به‌ویژه در وظایف مربوط به داده‌های بالینی فرانسوی، عملکرد بهتری دارند و این بهبود از نظر آماری نیز معنادار است. همچنین، مشخص شد که نیازی به آموزش مدل از ابتدا نیست و تنظیم دقیق مدل موجود نیز نتایج مشابه و قابل قبولی را ارائه می‌دهد.

۴. روش‌شناسی تحقیق

روش‌شناسی این تحقیق بر پایه اصول پردازش زبان طبیعی و یادگیری ماشین بنا شده است و شامل مراحل کلیدی زیر است:

• جمع‌آوری و آماده‌سازی داده‌ها:

  محققان از یک مجموعه داده بسیار بزرگ شامل ۲۱ میلیون گزارش بالینی استفاده کردند. این گزارش‌ها در بازه زمانی اوت ۲۰۱۷ تا ژوئیه ۲۰۲۱ از بیمارستان‌های دانشگاهی گرند پاریس (APHP) جمع‌آوری شده‌اند. حجم و تنوع این داده‌ها، بستر مناسبی برای یادگیری الگوهای پیچیده زبان بالینی فرانسوی فراهم می‌آورد.

• توسعه مدل‌های زبان تخصصی:

  دو رویکرد اصلی برای انطباق مدل زبان با زبان بالینی فرانسوی اتخاذ شد:

  • آموزش از ابتدا (Retrained from scratch): در این رویکرد، یک معماری مدل زبان، مشابه CamemBERT، با استفاده از کل مجموعه داده گزارش‌های بالینی فرانسوی، کاملاً از ابتدا آموزش داده شد. این روش به مدل اجازه می‌دهد تا از صفر، تمام ویژگی‌ها و الگوهای زبان تخصصی را بیاموزد.
  • تنظیم دقیق (Fine-tuning): در رویکرد دوم، از مدل از پیش آموزش‌دیده CamemBERT (یک مدل زبان عمومی بسیار قدرتمند) به عنوان نقطه شروع استفاده شد. سپس، این مدل با استفاده از مجموعه داده گزارش‌های بالینی فرانسوی، تنظیم دقیق گردید. هدف این بود که دانش عمومی مدل CamemBERT با دانش تخصصی زبان بالینی ترکیب شود.
• ارزیابی مدل‌ها:

  مدل‌های توسعه یافته با مدل اصلی CamemBERT مقایسه شدند. برای این منظور، از دو مجموعه داده پزشکی فرانسوی برچسب‌گذاری شده استفاده گردید:

  • APMed: این مجموعه داده به طور خاص برای وظایف مربوط به داده‌های APHP طراحی شده بود. این امر امکان ارزیابی مستقیم تأثیر انطباق مدل با داده‌های مشابه را فراهم می‌آورد.
  • QUAERO: یک مجموعه داده عمومی‌تر که برای ارزیابی عملکرد مدل‌ها در مقایسه با مدل پایه CamemBERT مورد استفاده قرار گرفت.

  برای سنجش میزان بهبود، از معیار امتیاز F1 (F1-score) استفاده شد که معیاری رایج و معتبر در ارزیابی مدل‌های دسته‌بندی و استخراج اطلاعات است. همچنین، برای اطمینان از معنادار بودن آماری تفاوت‌ها، از آزمون ویلکاکسون (Wilcoxon test) بهره گرفته شد.

۵. یافته‌های کلیدی

نتایج حاصل از این تحقیق، دیدگاه‌های ارزشمندی را در خصوص انطباق مدل‌های زبان با زبان تخصصی بالینی ارائه می‌دهد:

• بهبود قابل توجه در وظایف بالینی:

  مدل‌های زبان که بر روی گزارش‌های بالینی فرانسوی پیش‌آموزش داده شده بودند، توانستند میانگین امتیاز F1 را در مجموعه داده APMed (که مختص داده‌های APHP بود) به میزان ۳ امتیاز درصد افزایش دهند و به ۹۱٪ برسانند. این بهبود از نظر آماری نیز کاملاً معنادار بود، که نشان‌دهنده کارایی بالای این مدل‌ها در درک و پردازش زبان بالینی است.

  این یافته تأیید می‌کند که آشنایی مدل با اصطلاحات، ساختار و ظرافت‌های زبان مورد استفاده در اسناد واقعی بالینی، نقش حیاتی در بهبود عملکرد آن در وظایف مرتبط ایفا می‌کند.

• عملکرد قابل مقایسه با مدل پایه:

  علاوه بر این، مدل‌های انطباق یافته (چه آموزش دیده از ابتدا و چه تنظیم دقیق شده) در مجموعه داده QUAERO، عملکردی قابل مقایسه با مدل اصلی CamemBERT را نشان دادند. این بدان معناست که انطباق با زبان تخصصی، نه تنها عملکرد را در حوزه خود بهبود می‌بخشد، بلکه از کارایی مدل در وظایف عمومی‌تر نیز نمی‌کاهد.

• اثربخشی تنظیم دقیق در مقابل آموزش از ابتدا:

  یکی از یافته‌های مهم این تحقیق این است که بازآموزی مدل از ابتدا، مزیت آماری معنی‌داری نسبت به تنظیم دقیق (fine-tuning) مدل موجود (CamemBERT) ایجاد نمی‌کند. این امر بسیار حائز اهمیت است زیرا تنظیم دقیق، نیازمند منابع محاسباتی کمتر و زمان کمتری است. این یافته نشان می‌دهد که با استفاده از مدل‌های قدرتمند از پیش آموزش‌دیده، می‌توان با صرف هزینه و زمان کمتر، به نتایج مشابه و بسیار خوبی دست یافت.

  این موضوع، راه را برای پیاده‌سازی سریع‌تر و مقرون‌به‌صرفه‌تر مدل‌های NLP تخصصی در محیط‌های بالینی باز می‌کند. حتی با استفاده از تعداد کمی نمونه پیش‌آموزش، مدل‌های تنظیم دقیق شده نیز به عملکرد مطلوبی دست یافتند.

• اهمیت پیکره‌های تخصصی:

  نتایج کلی این تحقیق، یافته‌های ادبیات پیشین را تأیید می‌کند که بیان می‌دارد انطباق مدل‌های زبان پیش‌آموزش عمومی (مانند CamemBERT) بر روی پیکره‌های تخصصی (مانند گزارش‌های بالینی) منجر به بهبود عملکرد آن‌ها در وظایف NLP بالینی بعدی می‌شود.

۶. کاربردها و دستاوردها

این تحقیق دستاوردهای مهمی را برای جامعه علمی و حوزه سلامت به ارمغان می‌آورد:

• بهبود ابزارهای تحلیل متن بالینی:

  مدل‌های زبان توسعه یافته می‌توانند به عنوان هسته مرکزی ابزارهای پیشرفته‌تری برای تحلیل خودکار گزارش‌های بالینی مورد استفاده قرار گیرند. این ابزارها می‌توانند در مواردی چون:

  • استخراج اطلاعات پزشکی: شناسایی و دسته‌بندی خودکار اصطلاحات پزشکی، داروها، علائم، تشخیص‌ها و نتایج آزمایش‌ها.
  • طبقه‌بندی اسناد: دسته‌بندی خودکار گزارش‌های پزشکی بر اساس موضوع، نوع بیماری یا بخش درمانی.
  • تحلیل احساسات بالینی: درک دیدگاه بیماران یا پزشکان نسبت به درمان‌ها یا وضعیت سلامتی.
  • کدگذاری خودکار: کمک به فرآیند کدگذاری تشخیصی و رویه‌ای (مانند ICD یا CPT) که برای صورتحساب و آمار حیاتی است.
• تسریع تحقیقات پزشکی:

  با استخراج سریع‌تر و دقیق‌تر اطلاعات از حجم وسیعی از داده‌های بالینی، محققان می‌توانند الگوهای بیماری، اثربخشی درمان‌ها، و عوامل خطر را با سرعت و دقت بیشتری شناسایی کنند. این امر به توسعه دانش پزشکی و کشف راهکارهای درمانی جدید کمک شایانی می‌کند.

• افزایش کارایی بالینی:

  خودکارسازی وظایف مبتنی بر متن، بار کاری پزشکان و کادر درمان را کاهش می‌دهد و زمان بیشتری را برای تمرکز بر مراقبت مستقیم از بیمار فراهم می‌کند. همچنین، بهبود در دقت اطلاعات و دسترسی سریع‌تر به داده‌ها می‌تواند منجر به تصمیم‌گیری‌های بالینی بهتر و سریع‌تر شود.

• پشتیبانی از زبان‌های تخصصی دیگر:

  روش‌شناسی به کار رفته در این تحقیق، قابل تعمیم به زبان‌های تخصصی دیگر (غیر از فرانسوی) و سایر حوزه‌های تخصصی (مانند حقوق، مالی و غیره) است. این امر راه را برای توسعه مدل‌های زبانی قوی برای هر حوزه تخصصی باز می‌کند.

• بهینه‌سازی منابع محاسباتی:

  تأکید بر اثربخشی تنظیم دقیق، یک دستاورد عملی مهم است. این نشان می‌دهد که سازمان‌ها و مراکز تحقیقاتی نیازی به صرف هزینه‌های کلان برای آموزش مدل‌های عظیم از ابتدا ندارند و می‌توانند با استفاده از مدل‌های موجود و مقادیر کمی داده تخصصی، ابزارهای قدرتمندی ایجاد کنند.

۷. نتیجه‌گیری

مقاله “یادگیری ساختارهای زبان بالینی فرانسوی” به وضوح نشان می‌دهد که انطباق مدل‌های زبان عمومی با پیکره‌های تخصصی، مسیری بسیار مؤثر برای بهبود عملکرد در وظایف NLP مربوط به آن حوزه تخصصی است. پژوهشگران موفق شدند با استفاده از ۲۱ میلیون گزارش بالینی فرانسوی، مدل‌هایی توسعه دهند که درک بسیار عمیق‌تری از زبان بالینی نسبت به مدل‌های عمومی از خود نشان می‌دهند.

یافته کلیدی مبنی بر اینکه تنظیم دقیق (fine-tuning) یک مدل موجود، نتایج قابل مقایسه‌ای با آموزش از ابتدا ارائه می‌دهد، پیامدهای عملی مهمی دارد. این امر توسعه و پیاده‌سازی ابزارهای NLP پزشکی را در دسترس‌تر، سریع‌تر و مقرون‌به‌صرفه‌تر می‌کند. با توجه به اهمیت روزافزون داده‌های سلامت الکترونیک، این تحقیق گامی حیاتی در جهت بهره‌برداری مؤثرتر از این منابع ارزشمند برای ارتقاء تحقیقات پزشکی، بهبود کیفیت مراقبت از بیمار و تسریع فرآیندهای بالینی محسوب می‌شود.

در مجموع، این مقاله یک شاهدمثال قوی برای اهمیت تخصصی‌سازی مدل‌های زبانی و نمایش‌دهنده پتانسیل عظیم پردازش زبان طبیعی در حوزه سلامت است.