در دنیای پردازش زبان طبیعی (NLP)، یکی از بزرگترین چالش‌ها، به‌ویژه برای زبان‌های کم‌منبع یا در خطر، کمبود داده‌های ساختاریافته و برچسب‌گذاری‌شده است. این مشکل در حوزه مورفولوژی (صرف‌شناسی)، که به بررسی ساختار درونی واژگان می‌پردازد، بسیار جدی‌تر است. وظایفی مانند «صرف مورفولوژیکی» (تولید صورت‌های مختلف یک کلمه، مانند ساختن فعل «می‌روم» از مصدر «رفتن») نیازمند داده‌های دقیق و فراوانی است که تولید آن‌ها بسیار زمان‌بر و پرهزینه است. اینجاست که پرسش اساسی مطرح می‌شود: آیا می‌توان با انتخاب هوشمندانه‌تر داده‌ها، به جای افزایش بی‌هدف حجم آن‌ها، به نتایج بهتری دست یافت؟

مقاله “Eeny, meeny, miny, moe. How to choose data for morphological inflection” نوشته صالحا مراداوغلو و منس هولدن، پاسخی علمی و دقیق به این پرسش ارائه می‌دهد. این پژوهش به بررسی این موضوع می‌پردازد که چگونه می‌توان با استفاده از تکنیک‌های «یادگیری فعال» (Active Learning)، داده‌هایی را برای آموزش مدل انتخاب کرد که بیشترین تأثیر را بر بهبود عملکرد آن داشته باشند. اهمیت این مقاله در ارائه یک راهکار عملی برای کاهش هزینه‌های برچسب‌گذاری داده، تسریع فرآیند مستندسازی زبان‌ها و توسعه ابزارهای NLP برای گستره وسیعی از زبان‌های جهان نهفته است.

این مقاله حاصل همکاری صالحا مراداوغلو (Saliha Muradoglu) و منس هولدن (Mans Hulden)، دو پژوهشگر برجسته در حوزه زبان‌شناسی محاسباتی است. تحقیقات آن‌ها عمدتاً بر روی مدل‌سازی مورفولوژی، پردازش زبان‌های کم‌منبع و توسعه روش‌های کارآمد برای یادگیری ماشین در زبان‌شناسی متمرکز است. این پژوهش در تقاطع دو حوزه کلیدی قرار دارد: پردازش زبان طبیعی و مستندسازی زبان. هدف اصلی، ارائه روش‌هایی است که هم به پیشرفت فناوری‌های زبانی کمک کند و هم فرآیند طاقت‌فرسای تحلیل و ثبت زبان‌ها را برای زبان‌شناسان میدانی تسهیل نماید.

هدف اصلی این پژوهش، مقایسه نظام‌مند راهبردهای مختلف نمونه‌گیری داده برای بهبود عملکرد یک مدل ترنسفورمر (Transformer) در وظیفه صرف مورفولوژیکی است. نویسندگان استدلال می‌کنند که به جای جمع‌آوری تصادفی داده‌ها، می‌توان با انتخاب هوشمندانه نمونه‌هایی که برای مدل «چالش‌برانگیزتر» هستند، فرآیند یادگیری را بهینه کرد.

در این مقاله، چهار استراتژی اصلی نمونه‌گیری داده مورد بررسی قرار می‌گیرند:

• دو آزمایش «اوراکل» (Oracle) که در آن داده‌ها بر اساس صحیح یا غلط بودن پیش‌بینی فعلی مدل انتخاب می‌شوند.
• دو راهبرد مبتنی بر عدم قطعیت مدل: یکی بر اساس اعتماد پایین مدل (Low Confidence) و دیگری بر اساس آنتروپی بالا (High Entropy).
• یک راهبرد پایه که در آن داده‌ها به صورت تصادفی (Random) انتخاب می‌شوند.

این راهبردها بر روی مجموعه‌ای از ۳۰ زبان با ساختارهای مورفولوژیکی متنوع آزمایش شده و یک مطالعه موردی عمیق نیز بر روی زبان «ناتوگو» (Natügu) انجام شده است تا نتایج در مقیاس‌های مختلف ارزیابی شوند.

پایه و اساس این تحقیق بر یک چارچوب آزمایشی دقیق استوار است که به منظور شبیه‌سازی فرآیند یادگیری فعال طراحی شده است. اجزای اصلی این روش‌شناسی عبارتند از:

• وظیفه (Task): صرف مورفولوژیکی، یعنی تولید یک صورت صرفی خاص از یک کلمه (مثلاً مصدر) بر اساس مجموعه‌ای از ویژگی‌های دستوری (مانند شخص، شمار، زمان). برای مثال، از مصدر «نوشتن» و ویژگی‌های «اول شخص مفرد، حال استمراری»، مدل باید «می‌نویسم» را تولید کند.
• مدل (Model): از یک معماری پیشرفته ترنسفورمر استفاده شده است که توانایی بالایی در یادگیری الگوهای پیچیده زبانی دارد. این مدل ابتدا با مجموعه داده کوچکی آموزش اولیه می‌بیند.
• مجموعه داده (Dataset): برای اطمینان از عمومیت‌پذیری یافته‌ها، از داده‌های ۳۰ زبان با تنوع تیپولوژیکی بالا (از خانواده‌های زبانی مختلف مانند ترکی، اورالی، بانتو و…) استفاده شده است. این گستردگی، اعتبار نتایج را به شدت افزایش می‌دهد.
• راهبردهای نمونه‌گیری (Sampling Strategies): قلب این پژوهش، مقایسه روش‌های مختلف انتخاب داده برای دور بعدی آموزش مدل است:
  1. آزمایش اوراکل (Oracle Experiments): این سناریو یک حالت ایده‌آل را شبیه‌سازی می‌کند.
     • انتخاب داده‌های نادرست (Oracle-Incorrect): در این حالت، تنها داده‌هایی برای آموزش مجدد انتخاب می‌شوند که مدل در پیش‌بینی آن‌ها ناموفق بوده است. این راهبرد، بازخورد یک زبان‌شناس یا گویشور بومی را شبیه‌سازی می‌کند که اشتباهات مدل را تصحیح می‌کند.
     • انتخاب داده‌های درست (Oracle-Correct): به عنوان یک گروه کنترل، داده‌هایی انتخاب می‌شوند که مدل از قبل آن‌ها را به درستی صرف می‌کند.
  2. راهبردهای مبتنی بر عدم قطعیت (Uncertainty-based Strategies): این راهبردها در غیاب یک اوراکل، از خروجی خود مدل برای انتخاب داده استفاده می‌کنند.
     • اعتماد پایین (Low Confidence): مدل برای هر پیش‌بینی، یک امتیاز اعتماد گزارش می‌دهد. در این روش، نمونه‌هایی انتخاب می‌شوند که مدل کمترین اطمینان را به پاسخ خود دارد. این داده‌ها نمایانگر مرزهای دانش مدل هستند.
     • آنتروپی بالا (High Entropy): آنتروپی معیاری از پراکندگی و عدم قطعیت در توزیع احتمال خروجی مدل است. آنتروپی بالا به این معناست که مدل بین چندین گزینه احتمالی مردد است و بنابراین، آن نمونه برای یادگیری بسیار آموزنده است.
  3. انتخاب تصادفی (Random Selection): این راهبرد به عنوان خط پایه (Baseline) عمل می‌کند و نشان‌دهنده رویکرد سنتی افزایش داده بدون هیچ معیار هوشمندانه‌ای است.

نتایج این تحقیق بسیار شفاف و تأثیرگذار هستند و چندین باور رایج در یادگیری ماشین را به چالش می‌کشند:

• برتری مطلق راهبرد اوراکل: همانطور که انتظار می‌رفت، انتخاب داده‌هایی که مدل در آن‌ها اشتباه می‌کند (Oracle-Incorrect) بهترین عملکرد را به همراه دارد. این یافته تأیید می‌کند که بازخورد هدفمند و متمرکز بر خطاها، کارآمدترین راه برای بهبود مدل است.
• کارایی بالای راهبردهای مبتنی بر عدم قطعیت: مهم‌ترین نتیجه عملی تحقیق این است که راهبردهای انتخاب بر اساس «اعتماد پایین» و «آنتروپی بالا» با اختلافی اندک پس از سناریوی اوراکل قرار می‌گیرند و عملکردی بسیار بهتر از انتخاب تصادفی دارند. این بدان معناست که حتی بدون حضور یک متخصص انسانی، می‌توان با تکیه بر سیگنال‌های داخلی مدل، داده‌های ارزشمند را شناسایی کرد.
• یک یافته شگفت‌انگیز: داده بیشتر همیشه بهتر نیست! مقاله نشان می‌دهد که افزودن داده‌هایی که مدل از قبل به درستی آن‌ها را مدیریت می‌کند (Oracle-Correct) یا داده‌هایی که مدل اعتماد بالایی به پیش‌بینی آن‌ها دارد، نه تنها کمکی به بهبود عملکرد نمی‌کند، بلکه می‌تواند منجر به افت دقت مدل شود. این پدیده که می‌توان آن را «اشباع مدل با داده‌های تکراری» نامید، نشان می‌دهد که کیفیت و اطلاع‌رسان بودن داده‌ها بر کمیت آن‌ها ارجحیت دارد.
• استحکام نتایج در زبان‌های مختلف: الگوهای مشاهده‌شده در تمامی ۳۰ زبان مورد بررسی، با وجود تفاوت‌های ساختاری گسترده، ثابت بودند. این موضوع نشان می‌دهد که یافته‌های این تحقیق یک اصل بنیادی در یادگیری محاسباتی برای وظایف مورفولوژیکی است و محدود به یک خانواده زبانی خاص نیست.

این پژوهش پیامدهای عملی مهمی برای زبان‌شناسان، مهندسان NLP و جوامع گویشور زبان‌های کم‌منبع دارد:

• بهینه‌سازی فرآیند مستندسازی زبان: زبان‌شناسان میدانی می‌توانند با استفاده از این روش‌ها، تلاش‌های خود را برای جمع‌آوری و برچسب‌گذاری داده‌ها متمرکز کنند. به جای پرسش‌های تصادفی از گویشوران، می‌توانند بر روی ساختارهایی تمرکز کنند که مدل‌های اولیه در آن‌ها دچار چالش هستند.
• توسعه سریع‌تر ابزارهای NLP: برای توسعه ابزارهایی مانند غلط‌یاب املایی، مترجم ماشینی یا سیستم‌های تولید متن برای زبان‌های کم‌منبع، می‌توان با بودجه و زمان محدود، به مدل‌های دقیق‌تری دست یافت.
• تغییر نگرش در یادگیری ماشین: این مقاله به طور مستند نشان می‌دهد که رویکرد «داده‌های عظیم» (Big Data) همیشه راه‌حل نیست. «داده‌های هوشمند» (Smart Data)، یعنی داده‌هایی که با دقت انتخاب شده‌اند، می‌توانند تأثیرگذاری بیشتری داشته باشند.
• توانمندسازی جوامع محلی: با کاهش نیاز به منابع محاسباتی و انسانی گسترده، جوامع محلی می‌توانند نقش فعال‌تری در ساخت ابزارهای دیجیتال برای زبان خود ایفا کنند.

مقاله “گزینش داده برای صرف مورفولوژیکی” یک راهنمای علمی و عملی برای مقابله با چالش کمبود داده در پردازش زبان طبیعی ارائه می‌دهد. نویسندگان به طور قانع‌کننده‌ای نشان می‌دهند که چگونگی انتخاب داده به اندازه (و گاهی بیشتر از) حجم داده اهمیت دارد. راهبردهای یادگیری فعال، به ویژه آن‌هایی که بر اساس عدم قطعیت مدل (اعتماد پایین و آنتروپی بالا) عمل می‌کنند، ابزارهای قدرتمندی برای بهینه‌سازی فرآیند آموزش مدل‌های مورفولوژیکی هستند.

پیام نهایی این پژوهش روشن است: برای ساختن مدل‌های بهتر، به جای جستجوی کورکورانه برای داده‌های بیشتر، باید هوشمندانه‌تر عمل کنیم و بر روی داده‌هایی تمرکز کنیم که بیشترین پتانسیل را برای یادگیری و رفع نقاط ضعف مدل دارند. این رویکرد نه تنها اقتصادی‌تر است، بلکه راه را برای حفظ و توسعه دیجیتال زبان‌های بی‌شماری در سراسر جهان هموارتر می‌سازد.