۱. معرفی مقاله و اهمیت آن

در سال‌های اخیر، مدل‌های زبان بزرگ (LLMs) و مدل‌های از پیش آموزش‌دیده (Pre-trained Models) انقلابی در حوزه پردازش زبان طبیعی (NLP) ایجاد کرده‌اند. این مدل‌ها قادرند با حجم عظیمی از داده‌های متنی آموزش دیده و سپس برای وظایف خاصی مانند خلاصه‌سازی، ترجمه و تحلیل احساسات تنظیم دقیق (Fine-tuning) شوند. با این حال، استفاده از این مدل‌ها در حوزه‌های تخصصی نظیر پزشکی و زیست‌پزشکی با چالش‌های منحصر به فردی روبروست.

مقاله “Prompt Combines Paraphrase: Teaching Pre-trained Models to Understand Rare Biomedical Words” که توسط Haochun Wang و همکارانش ارائه شده است، به یکی از این چالش‌های اساسی می‌پردازد: درک واژگان نادر زیست‌پزشکی توسط مدل‌های از پیش آموزش‌دیده. واژگان زیست‌پزشکی اغلب در متون عمومی نادر هستند اما در متون تخصصی این حوزه بسیار رایج و حیاتی محسوب می‌شوند. ناتوانی مدل‌ها در درک صحیح این واژگان می‌تواند به شدت عملکرد آن‌ها را در کاربردهای پایین‌دستی زیست‌پزشکی کاهش دهد، به خصوص در سناریوهایی با منابع داده‌ای کم (low-resource scenarios).

این تحقیق اهمیت ویژه‌ای دارد زیرا با ارائه یک رویکرد نوین و کارآمد، پلی میان توانایی‌های عمومی مدل‌های از پیش آموزش‌دیده و نیازهای خاص حوزه‌های تخصصی ایجاد می‌کند. با توجه به حجم فزاینده اطلاعات زیست‌پزشکی و نیاز مبرم به تحلیل خودکار آن‌ها، بهبود درک مدل‌ها از این متون، پیامدهای مثبت گسترده‌ای در تحقیقات علمی، تشخیص بیماری‌ها و توسعه دارو خواهد داشت.

۲. نویسندگان و زمینه تحقیق

این مقاله توسط تیمی از محققان برجسته شامل Haochun Wang, Chi Liu, Nuwa Xi, Sendong Zhao, Meizhi Ju, Shiwei Zhang, Ziheng Zhang, Yefeng Zheng, Bing Qin و Ting Liu به رشته تحریر درآمده است. این گروه تحقیقاتی با تخصص در زمینه‌های یادگیری ماشین، پردازش زبان طبیعی و بیوانفورماتیک، توانسته‌اند رویکردی خلاقانه برای حل چالش درک واژگان نادر زیست‌پزشکی ارائه دهند.

زمینه‌ی اصلی این تحقیق، پردازش زبان طبیعی (NLP) و زیرشاخه‌های آن مانند یادگیری پرامپت (Prompt-based Learning) و یادگیری با چند نمونه (Few-shot Learning) است. در این پارادایم‌ها، به جای تنظیم دقیق کل مدل برای یک وظیفه خاص، از “پرامپت” یا دستورالعمل‌های متنی برای هدایت مدل به سمت انجام وظیفه استفاده می‌شود. این رویکرد به ویژه در سناریوهای کم‌منبع که جمع‌آوری داده‌های برچسب‌گذاری‌شده دشوار و پرهزینه است، کارایی بالایی از خود نشان داده است.

اما این رویکردهای نوین نیز در مواجهه با واژگان بسیار تخصصی و نادر با مشکل روبرو می‌شوند. بنابراین، این مقاله به طور خاص بر بهبود عملکرد این روش‌ها در حوزه زیست‌پزشکی متمرکز است. این حوزه به دلیل حجم بالای اصطلاحات فنی، مخفف‌ها و واژگان پیچیده، همواره یکی از چالش‌برانگیزترین زمینه‌ها برای کاربرد مدل‌های NLP بوده است. دسته‌بندی این مقاله در بخش “Computation and Language” نیز نشان‌دهنده ماهیت بین‌رشته‌ای و محاسباتی این پژوهش در حوزه زبان است.

۳. چکیده و خلاصه محتوا

چکیده مقاله به وضوح مشکل و راه حل پیشنهادی را بیان می‌کند. تنظیم دقیق مدل‌های از پیش آموزش‌دیده با استفاده از پرامپت، در بسیاری از وظایف پردازش زبان طبیعی و در سناریوهای با نمونه‌های کم در حوزه‌های عمومی، کارآمدی خود را به اثبات رسانده است. با این حال، کاربرد این روش در حوزه زیست‌پزشکی به طور کامل مورد بررسی قرار نگرفته بود.

مدل‌های از پیش آموزش‌دیده عمدتاً بر روی حجم وسیعی از داده‌های متنی عمومی آموزش می‌بینند. در نتیجه، واژگان زیست‌پزشکی که در این متون عمومی نادر هستند، به خوبی توسط مدل آموخته نمی‌شوند. این ضعف حتی پس از تنظیم دقیق مدل نیز پابرجا می‌ماند و منجر به کاهش قابل توجه عملکرد مدل در کاربردهای پایین‌دستی زیست‌پزشکی می‌شود، به ویژه در شرایطی که داده‌های برچسب‌گذاری‌شده کمی در دسترس است. به عنوان مثال، کلماتی مانند “angiogenesis” (رگ‌زایی) یا “cytokine” (سیتوکین) ممکن است در متون عمومی کمتر دیده شوند اما برای درک مقالات پزشکی ضروری هستند.

برای رفع این چالش، محققان رویکردی ساده اما مؤثر را برای کمک به مدل‌ها در یادگیری واژگان نادر زیست‌پزشکی در طول فرآیند تنظیم با پرامپت پیشنهاد می‌کنند. این رویکرد با ترکیب پرامپت‌های بازنویسی شده (Prompt Combines Paraphrase) به مدل اجازه می‌دهد تا از زوایای مختلف به یک مفهوم نگاه کند و درک عمیق‌تری از واژگان تخصصی پیدا کند.

نتایج تجربی نشان می‌دهد که روش پیشنهادی آن‌ها می‌تواند در وظیفه استنتاج زبان طبیعی زیست‌پزشکی (Biomedical Natural Language Inference) تا ۶٪ بهبود عملکرد را به همراه داشته باشد. نکته قابل توجه این است که این بهبود بدون نیاز به هیچ پارامتر اضافی یا مراحل آموزشی بیشتر و تنها با استفاده از تنظیمات پرامپت پایه با نمونه‌های کم (few-shot vanilla prompt settings) حاصل شده است. این دستاورد اهمیت زیادی دارد زیرا نشان می‌دهد می‌توان با تغییرات ظریف در نحوه ارائه پرامپت‌ها، به پیشرفت‌های چشمگیری در حوزه‌های تخصصی دست یافت.

۴. روش‌شناسی تحقیق

هدف اصلی این تحقیق، تقویت درک مدل‌های از پیش آموزش‌دیده از واژگان نادر زیست‌پزشکی در محیط‌های با نمونه‌های کم است. روش‌شناسی پیشنهادی بر اساس ایده ترکیب پرامپت‌های بازنویسی شده استوار است. در ادامه به جزئیات این رویکرد پرداخته می‌شود:

• چالش اصلی: مدل‌های زبان عمومی اغلب با واژگان تخصصی و نادر در یک حوزه خاص مشکل دارند. برای مثال، کلمه “pharmacokinetics” (فارماکوکینتیک) ممکن است در متون عمومی نامفهوم باشد، اما در یک مقاله دارویی اهمیت زیادی دارد. پرامپت‌های سنتی (مثلاً: “آیا X و Y رابطه علت و معلولی دارند؟”) ممکن است نتوانند مدل را به سمت درک عمیق این واژگان هدایت کنند.

• رویکرد “Prompt Combines Paraphrase”: هسته روش پیشنهادی، ایجاد و ترکیب چندین نسخه بازنویسی شده (paraphrased) از یک پرامپت اصلی است. به جای ارائه یک پرامپت واحد، مدل با چند پرامپت متفاوت اما معنایی مشابه روبرو می‌شود. برای مثال، اگر پرامپت اصلی برای یک وظیفه تشخیص رابطه این باشد: “متن: X. آیا X بیماری است؟”، پرامپت‌های بازنویسی شده می‌توانند شامل موارد زیر باشند:

  • “X. این یک بیماری است؟”
  • “آیا X به یک بیماری اشاره دارد؟”
  • “با توجه به X، آیا می‌توان آن را به عنوان یک بیماری طبقه‌بندی کرد؟”

  هدف از این کار، ارائه دیدگاه‌های مختلف زبانی برای یک پرسش واحد است. این تنوع به مدل کمک می‌کند تا به جای اتکا به یک فرمولاسیون خاص، مفهوم زیربنایی پرامپت و ارتباط آن با واژگان نادر را بهتر درک کند. این تکنیک، نوعی تقویت داده (Data Augmentation) در سطح پرامپت محسوب می‌شود.

• فرآیند ترکیب (Combination Strategy): این مقاله مشخص می‌کند که چگونه پاسخ‌های مدل به پرامپت‌های بازنویسی شده مختلف با یکدیگر ترکیب می‌شوند. این ترکیب می‌تواند از طریق روش‌های ساده‌ای مانند میانگین‌گیری از احتمالات پیش‌بینی شده توسط مدل برای هر پرامپت بازنویسی شده، یا استفاده از مکانیزم‌های پیچیده‌تر وزنی صورت گیرد. این ترکیب نهایی منجر به یک پیش‌بینی قوی‌تر و پایدارتر می‌شود که کمتر تحت تأثیر ابهام یا نادر بودن یک واژه قرار می‌گیرد.

• تنظیمات Few-shot Vanilla Prompt: این روش در سناریوهای یادگیری با چند نمونه (Few-shot Learning) پیاده‌سازی شده است. به این معنا که مدل تنها با تعداد بسیار کمی از نمونه‌های برچسب‌گذاری‌شده برای یک وظیفه خاص تنظیم دقیق می‌شود. این حالت به شدت با چالش کمبود داده در حوزه‌های تخصصی همخوانی دارد. “Vanilla Prompt” نیز به استفاده از فرمت‌های پرامپت استاندارد و ساده اشاره دارد، بدون نیاز به طراحی پیچیده و وقت‌گیر پرامپت‌ها.

• محیط آزمایش: ارزیابی روش بر روی وظیفه استنتاج زبان طبیعی زیست‌پزشکی (Biomedical Natural Language Inference – BioNLI) انجام شده است. این وظیفه مستلزم درک روابط معنایی بین دو جمله در حوزه زیست‌پزشکی است (مثلاً آیا جمله دوم دلالت بر جمله اول دارد یا با آن در تناقض است). این وظیفه به دلیل وابستگی شدید به درک دقیق واژگان و روابط معنایی، بستر مناسبی برای سنجش کارایی روش پیشنهادی است. از مجموعه داده‌های استاندارد BioNLI برای آزمایش‌ها استفاده شده است.

با ترکیب پرامپت‌های بازنویسی شده، مدل به طور مؤثرتری آموزش می‌بیند که چگونه کلمات نادر زیست‌پزشکی را در زمینه‌های مختلف درک کند، حتی اگر تعداد نمونه‌های آموزشی کم باشد. این رویکرد به مدل اجازه می‌دهد تا به نوعی خود را “آموزش بیشتر” دهد، بدون اینکه نیاز به افزایش حجم داده‌های برچسب‌گذاری شده یا پیچیدگی معماری مدل باشد.

۵. یافته‌های کلیدی

نتایج تجربی این تحقیق به وضوح کارایی رویکرد “Prompt Combines Paraphrase” را نشان می‌دهد. مهم‌ترین یافته‌ها به شرح زیر است:

• بهبود قابل توجه در عملکرد: روش پیشنهادی توانست در وظیفه استنتاج زبان طبیعی زیست‌پزشکی (BioNLI) تا ۶٪ بهبود عملکرد را نسبت به روش‌های پایه (که از پرامپت‌های تکی استفاده می‌کنند) به ارمغان آورد. این میزان بهبود در یک حوزه تخصصی مانند زیست‌پزشکی، که دستیابی به دقت بالا چالش‌برانگیز است، بسیار چشمگیر محسوب می‌شود.

  به عنوان مثال، فرض کنید مدل پایه در تشخیص رابطه “دلالت” بین دو جمله پزشکی (مانند: “مصرف این دارو باعث کاهش التهاب می‌شود” و “این دارو ضد التهاب است”)، ۷۰٪ دقت داشته باشد. با روش جدید، این دقت به ۷۶٪ افزایش می‌یابد. این افزایش می‌تواند به معنای دقت بالاتر در تحلیل مقالات علمی، شناسایی روابط بین داروها و بیماری‌ها، و استخراج دانش باشد.

• کارایی بالا بدون سربار اضافی: یکی از مهم‌ترین دستاوردهای این تحقیق، کسب این بهبود عملکرد بدون نیاز به هیچ پارامتر اضافی یا مراحل آموزشی بیشتر است. این بدان معناست که مدل نیازی به افزایش پیچیدگی خود یا صرف زمان و منابع محاسباتی بیشتر برای آموزش ندارد. این ویژگی، روش را برای پیاده‌سازی در سیستم‌های واقعی و محیط‌های با منابع محدود، بسیار جذاب می‌کند. این رویکرد صرفاً با هوشمندی در نحوه فرمول‌بندی و ارائه پرامپت‌ها به مدل، به این نتایج دست یافته است.

• تطبیق‌پذیری در سناریوهای کم‌منبع: این نتایج در تنظیمات پرامپت پایه با نمونه‌های کم (few-shot vanilla prompt settings) حاصل شده است. این امر نشان می‌دهد که روش “ترکیب پرامپت بازنویسی شده” به ویژه برای حوزه‌هایی که جمع‌آوری داده‌های برچسب‌گذاری شده دشوار است، مانند بیماری‌های نادر یا تحقیقات جدید که داده‌های محدودی دارند، بسیار مؤثر است. این توانایی تطبیق‌پذیری بالا با داده‌های کم، نقطه قوت اصلی این متدولوژی است.

• تقویت درک مدل از واژگان نادر: بهبود عملکرد نشان می‌دهد که مدل با استفاده از پرامپت‌های بازنویسی شده، قادر به درک دقیق‌تر و قوی‌تر از واژگان تخصصی و نادر زیست‌پزشکی شده است. این نه تنها به دلیل تطابق بهتر با خود پرامپت‌ها، بلکه به دلیل توانایی مدل در استنتاج معنایی از تنوع زبانی ارائه شده است. به عبارت دیگر، مدل یاد می‌گیرد که یک مفهوم واحد را می‌توان با عبارات متفاوتی بیان کرد و این امر منجر به تعمیم‌پذیری بهتر می‌شود.

به طور خلاصه، یافته‌های کلیدی این مقاله تأکید بر قدرت بهینه‌سازی رویکردهای موجود (prompt-based learning) برای غلبه بر چالش‌های خاص دامنه (rare biomedical words) بدون تحمیل بار محاسباتی اضافی دارد.

۶. کاربردها و دستاوردها

رویکرد پیشنهادی در این مقاله، کاربردها و دستاوردهای مهمی در حوزه پردازش زبان طبیعی زیست‌پزشکی به همراه دارد:

• تحلیل متون بالینی: مدل‌های بهبودیافته می‌توانند در تحلیل سریع و دقیق پرونده‌های پزشکی، گزارشات پاتولوژی و رادیولوژی کمک کنند. این امر می‌تواند به تشخیص زودهنگام بیماری‌ها، پیگیری روند درمان و شناسایی عوارض جانبی داروها کمک شایانی کند. به عنوان مثال، استخراج اطلاعات دقیق درباره علائم نادر بیماری‌ها یا واکنش‌های دارویی خاص که با واژگان تخصصی بیان می‌شوند.

• کشف و توسعه دارو: در مراحل اولیه کشف دارو، حجم عظیمی از مقالات علمی و پتنت‌ها باید مورد بررسی قرار گیرد. این مدل‌ها می‌توانند با دقت بیشتری روابط بین ترکیبات شیمیایی، پروتئین‌ها، مسیرهای بیولوژیکی و بیماری‌ها را از متون استخراج کنند. این امر به تسریع فرآیند شناسایی اهداف دارویی جدید و بهینه‌سازی ترکیبات موجود کمک می‌کند.

• پاسخگویی به سوالات پزشکی: سیستم‌های پرسش و پاسخ که بر پایه مدل‌های زبان بنا شده‌اند، با این روش می‌توانند به سوالات پیچیده‌تر و تخصصی‌تر در حوزه پزشکی پاسخ دهند. چه برای پزشکان و محققان و چه برای بیماران (با رعایت ملاحظات پزشکی و مشورت با متخصص)، دسترسی به اطلاعات دقیق و سریع در مورد بیماری‌ها، درمان‌ها و اصطلاحات پزشکی تسهیل می‌شود.

• داده‌کاوی در ادبیات علمی: با توجه به رشد فزاینده مقالات زیست‌پزشکی، استخراج دانش خودکار از این منابع برای محققان اهمیت حیاتی دارد. این روش به مدل‌ها امکان می‌دهد تا مفاهیم جدید، روابط نوظهور و روندهای تحقیقاتی را از مقالاتی که حاوی واژگان تخصصی و بعضاً نادر هستند، با دقت بیشتری شناسایی کنند. این امر می‌تواند به ایجاد پایگاه‌های دانش خودکار و سیستم‌های توصیه علمی منجر شود.

• کاهش نیاز به داده‌های برچسب‌گذاری شده: یکی از بزرگترین دستاوردهای این تحقیق، کاهش وابستگی به داده‌های برچسب‌گذاری شده حجیم در حوزه‌های تخصصی است. جمع‌آوری و برچسب‌گذاری داده‌های زیست‌پزشکی توسط متخصصان، فرآیندی زمان‌بر و پرهزینه است. این روش با بهبود عملکرد در سناریوهای few-shot، هزینه‌ها و زمان لازم برای توسعه مدل‌های NLP در این حوزه‌ها را به میزان قابل توجهی کاهش می‌دهد.

• توسعه مدل‌های پایدارتر و تعمیم‌پذیرتر: با یادگیری درک واژگان نادر از طریق پرامپت‌های بازنویسی شده، مدل‌ها به فهم عمیق‌تری از زبان تخصصی دست می‌یابند که منجر به پایداری (robustness) بیشتر آن‌ها در مواجهه با تنوع متنی و تعمیم‌پذیری (generalizability) بهتر به وظایف و زیرحوزه‌های جدید می‌شود.

به طور کلی، این دستاورد گامی مهم در جهت توانمندسازی هوش مصنوعی برای درک بهتر پیچیدگی‌های زبان در حوزه‌های علمی و تخصصی است و پتانسیل زیادی برای تحول در روش‌های پژوهش و کاربردهای عملی پزشکی دارد.

۷. نتیجه‌گیری

مقاله “ترکیب پرامپت بازنویسی شده: آموزش مدل‌های از پیش آموزش‌دیده برای درک واژگان نادر زیست‌پزشکی” به یک چالش اساسی و دیرینه در حوزه پردازش زبان طبیعی زیست‌پزشکی پرداخته است: ناتوانی مدل‌های از پیش آموزش‌دیده در درک مؤثر واژگان نادر و تخصصی این حوزه، به ویژه در سناریوهای با منابع داده‌ای کم.

محققان با ارائه یک رویکرد ساده اما بسیار مؤثر، یعنی ترکیب پرامپت‌های بازنویسی شده (Prompt Combines Paraphrase)، نشان دادند که می‌توان بدون نیاز به افزایش پیچیدگی مدل یا افزودن پارامترهای جدید، عملکرد مدل‌ها را به شکل چشمگیری بهبود بخشید. این روش با ارائه چندین فرمولاسیون زبانی متفاوت اما هم‌معنی برای یک پرامپت واحد، مدل را قادر می‌سازد تا درک جامع‌تر و عمیق‌تری از مفاهیم و واژگان تخصصی پیدا کند.

یافته‌های کلیدی شامل افزایش تا ۶٪ در دقت وظیفه استنتاج زبان طبیعی زیست‌پزشکی، تأییدکننده قدرت این رویکرد در شرایطی است که مدل‌ها تنها با تعداد کمی از نمونه‌های آموزشی مواجه هستند. این دستاورد نه تنها از نظر آکادمیک حائز اهمیت است، بلکه کاربردهای عملی گسترده‌ای در حوزه‌هایی مانند تحلیل متون بالینی، کشف دارو، و سیستم‌های پرسش و پاسخ پزشکی دارد.

این پژوهش مسیر جدیدی را برای بهره‌وری حداکثری از مدل‌های از پیش آموزش‌دیده در حوزه‌های تخصصی با حداقل سرمایه‌گذاری منابع باز می‌کند. در آینده، تحقیقات می‌تواند بر روی چگونگی خودکارسازی فرآیند تولید پرامپت‌های بازنویسی شده یا بررسی تأثیر این رویکرد بر روی سایر وظایف و زبان‌ها متمرکز شود. به طور کلی، این مقاله گامی مهم در جهت ایجاد سیستم‌های هوش مصنوعی زبانی است که قادر به درک و پردازش دقیق اطلاعات در پیچیده‌ترین و تخصصی‌ترین حوزه‌ها باشند.