در دنیای پویای پردازش زبان طبیعی (NLP)، روش‌های نوینی به طور مداوم در حال ظهور هستند تا عملکرد مدل‌ها را در وظایف مختلف بهبود بخشند. یکی از این رویکردهای جدید و امیدوارکننده، یادگیری پرامپت (Prompt Learning) است. این روش، با بهره‌گیری از مدل‌های زبانی پیش‌آموزش‌شده (PLMs) و طراحی دقیق “پرامپت‌ها” یا دستورالعمل‌های ورودی، به مدل‌ها امکان می‌دهد تا با داده‌های کمتری، عملکرد قابل قبولی ارائه دهند. مقاله حاضر به بررسی کاربرد یادگیری پرامپت در حوزه تخصصی متون بالینی می‌پردازد و مزایای آن را نسبت به روش‌های سنتی آموزش مدل‌ها (fine-tuning) ارزیابی می‌کند.

این مقاله توسط تیمی از محققان به سرپرستی نیال تیلور (Niall Taylor)، یی ژانگ (Yi Zhang)، دن جویس (Dan Joyce)، الخو نِوادو-هولگادو (Alejo Nevado-Holgado) و آندری کورمیلیتزین (Andrey Kormilitzin) نگارش شده است. تمرکز اصلی این تیم بر روی کاربرد روش‌های نوین NLP در حوزه پزشکی و بالینی بوده و هدف آن‌ها یافتن راهکارهایی است که با استفاده از منابع محاسباتی کمتر، بتوان مدل‌های زبانی قدرتمندی را برای این حوزه تخصصی آموزش داد.

این تحقیق در زمینه محاسبات و زبان (Computation and Language) طبقه‌بندی می‌شود و به طور خاص به چالش‌های موجود در استفاده از مدل‌های زبانی بزرگ در محیط‌های بالینی می‌پردازد، جایی که دسترسی به سخت‌افزار قدرتمند و داده‌های فراوان اغلب محدود است.

مقاله “یادگیری پرامپت بالینی با استفاده از مدل‌های زبانی منجمد” به بررسی امکان‌پذیری استفاده از یادگیری پرامپت با مدل‌های زبانی پیش‌آموزش‌شده بزرگ و منجمد (بدون نیاز به fine-tuning کامل) در وظایف تصمیم‌گیری بالینی می‌پردازد. در این روش، مدل زبانی اصلی بدون تغییر باقی می‌ماند و تنها “پرامپت‌ها” یا الگوهای ورودی به گونه‌ای طراحی می‌شوند که مدل بتواند وظیفه مورد نظر را انجام دهد. نتایج این تحقیق نشان می‌دهد که یادگیری پرامپت می‌تواند با استفاده از پارامترهای آموزشی بسیار کمتر و داده‌های کمتری، عملکردی مشابه یا حتی بهتر از روش‌های سنتی fine-tuning ارائه دهد.

این یافته، به‌ویژه در محیط‌های بالینی که محدودیت‌های منابع محاسباتی وجود دارد، بسیار مهم است. استفاده از یادگیری پرامپت به جای fine-tuning مدل‌های بزرگ، می‌تواند هزینه‌های محاسباتی را به طور قابل توجهی کاهش دهد و امکان استفاده از مدل‌های زبانی پیشرفته را در این حوزه فراهم کند.

در این تحقیق، از یک روش‌شناسی دقیق و مبتنی بر مقایسه استفاده شده است. محققان، عملکرد یادگیری پرامپت را با عملکرد روش‌های سنتی fine-tuning در وظایف تصمیم‌گیری بالینی مختلف مقایسه کرده‌اند. این وظایف شامل:

• تشخیص بیماری‌ها از روی متون پزشکی
• پیش‌بینی نتایج درمان بر اساس اطلاعات بیمار
• خلاصه‌سازی متون پزشکی

برای ارزیابی عملکرد مدل‌ها، از معیارهای استاندارد ارزیابی عملکرد در NLP مانند دقت (Accuracy)، بازیابی (Recall) و F1-score استفاده شده است. همچنین، به منظور اطمینان از اعتبار نتایج، از روش‌های آماری برای بررسی معناداری تفاوت‌های عملکرد بین روش‌ها استفاده شده است.

نکته حائز اهمیت در این روش‌شناسی، استفاده از مدل‌های زبانی پیش‌آموزش‌شده بزرگ و منجمد است. این بدان معناست که پارامترهای اصلی مدل زبانی در طول آموزش تغییر نمی‌کنند و تنها پرامپت‌ها بهینه می‌شوند. این امر باعث کاهش چشمگیر هزینه‌های محاسباتی و افزایش سرعت آموزش می‌شود.

نتایج این تحقیق نشان می‌دهد که یادگیری پرامپت می‌تواند در برخی از وظایف بالینی، عملکردی مشابه یا حتی بهتر از روش‌های سنتی fine-tuning ارائه دهد. این در حالی است که یادگیری پرامپت به تعداد بسیار کمتری پارامتر آموزشی نیاز دارد. به طور خاص، یافته‌های کلیدی این تحقیق عبارتند از:

• یادگیری پرامپت می‌تواند با استفاده از داده‌های کمتری، عملکرد قابل قبولی ارائه دهد. این امر برای حوزه پزشکی که دسترسی به داده‌های آموزشی برچسب‌گذاری شده محدود است، بسیار مهم است.
• یادگیری پرامپت نیاز به منابع محاسباتی بسیار کمتری نسبت به fine-tuning دارد. این امر امکان استفاده از مدل‌های زبانی پیشرفته را در محیط‌های بالینی با محدودیت‌های سخت‌افزاری فراهم می‌کند.
• طراحی پرامپت مناسب، نقش کلیدی در عملکرد یادگیری پرامپت دارد. انتخاب یک پرامپت خوب می‌تواند به طور قابل توجهی عملکرد مدل را بهبود بخشد. به عنوان مثال، پرسیدن سوالات خاص یا ارائه توضیحات واضح در پرامپت می‌تواند به مدل کمک کند تا وظیفه مورد نظر را بهتر درک کند.

نتایج این تحقیق دارای کاربردهای عملی متعددی در حوزه پزشکی و بالینی است. برخی از این کاربردها عبارتند از:

• تشخیص زودهنگام بیماری‌ها: با استفاده از یادگیری پرامپت، می‌توان مدل‌هایی را آموزش داد که با بررسی متون پزشکی، علائم بیماری‌ها را شناسایی کرده و به پزشکان در تشخیص زودهنگام بیماری‌ها کمک کنند.
• پیش‌بینی نتایج درمان: مدل‌های مبتنی بر یادگیری پرامپت می‌توانند با بررسی اطلاعات بیمار، احتمال موفقیت درمان‌های مختلف را پیش‌بینی کرده و به پزشکان در انتخاب بهترین روش درمانی کمک کنند.
• بهبود مراقبت از بیمار: یادگیری پرامپت می‌تواند در توسعه سیستم‌های خودکار پاسخگویی به سوالات بیماران و ارائه اطلاعات پزشکی به آن‌ها مورد استفاده قرار گیرد و به این ترتیب، کیفیت مراقبت از بیمار را بهبود بخشد.

علاوه بر کاربردهای عملی، این تحقیق دستاوردهای مهمی نیز در زمینه توسعه روش‌های نوین آموزش مدل‌های زبانی دارد. نشان داده شده است که یادگیری پرامپت می‌تواند یک جایگزین کم‌هزینه و کارآمد برای روش‌های سنتی fine-tuning باشد و امکان استفاده از مدل‌های زبانی پیشرفته را در محیط‌های با محدودیت منابع فراهم کند.

مقاله “یادگیری پرامپت بالینی با استفاده از مدل‌های زبانی منجمد” نشان می‌دهد که یادگیری پرامپت یک روش امیدوارکننده برای آموزش مدل‌های زبانی در حوزه پزشکی و بالینی است. این روش می‌تواند با استفاده از منابع محاسباتی کمتر و داده‌های کمتری، عملکردی مشابه یا حتی بهتر از روش‌های سنتی fine-tuning ارائه دهد. با توجه به محدودیت‌های منابع در بسیاری از محیط‌های بالینی، یادگیری پرامپت می‌تواند یک ابزار ارزشمند برای توسعه سیستم‌های هوشمند در این حوزه باشد. کد منبع این تحقیق برای استفاده عموم در گیت‌هاب در دسترس است: https://github.com/NtaylorOX/Public_Clinical_Prompt

در آینده، تحقیقات بیشتری برای بررسی کاربردهای یادگیری پرامپت در وظایف بالینی مختلف و توسعه روش‌های بهینه‌سازی پرامپت مورد نیاز است. همچنین، بررسی اثرات احتمالی سوگیری در داده‌های آموزشی و پرامپت‌ها بر عملکرد مدل‌ها نیز از اهمیت ویژه‌ای برخوردار است.