در دهه اخیر، حوزه پردازش زبان طبیعی (NLP) به لطف ظهور معماری‌های یادگیری عمیق مبتنی بر توجه (Attention-based Architectures)، مانند مدل‌های ترنسفورمر، شاهد انقلابی شگرف بوده است. این مدل‌ها در زبان‌هایی با منابع داده‌ای غنی مانند انگلیسی، چینی و اسپانیایی به موفقیت‌های چشمگیری دست یافته‌اند. با این حال، این پیشرفت‌ها عمدتاً محدود به درصد کوچکی از زبان‌های جهان بوده است. مشکل اصلی این است که این مدل‌های قدرتمند، «داده‌محور» هستند و برای آموزش به حجم عظیمی از متون دیجیتال نیاز دارند؛ چالشی که برای هزاران زبان «کم‌منبع» (Low-Resource) جهان، یک مانع بزرگ محسوب می‌شود.

مقاله “How Low is Too Low?” به قلم راچیت بانسال و همکارانش، تلاشی جسورانه برای پاسخ به یک پرسش بنیادین است: مرز توانایی این تکنیک‌های پیشرفته کجاست؟ آیا می‌توان از آن‌ها برای زبان‌هایی با منابع «فوق‌العاده اندک» (Extremely Low-Resource) استفاده کرد؟ این پژوهش برای اولین بار، این پرسش را در عمل و با انتخاب یکی از چالش‌برانگیزترین موارد ممکن به آزمون می‌گذارد: زبان سومری با خط میخی، یکی از کهن‌ترین زبان‌های مکتوب جهان که قدمت آن به هزاره سوم پیش از میلاد بازمی‌گردد. اهمیت این مقاله نه‌تنها در ارائه یک راهکار فنی، بلکه در گشودن دریچه‌ای نو به روی علوم انسانی دیجیتال، زبان‌شناسی تاریخی و حفظ میراث فرهنگی بشر نهفته است.

این مقاله محصول یک همکاری بین‌رشته‌ای درخشان است. تیمی متشکل از راچیت بانسال، هیمانشو چوداری، راونیت پونیا، نیکو شنک، جیکوب ال. دال و امیلی پاژه-پرون، متخصصانی از حوزه‌های علوم کامپیوتر (یادگیری ماشین و NLP) و آشورشناسی و سومرشناسی را گرد هم آورده است. این ترکیب منحصربه‌فرد از تخصص‌ها، کلید موفقیت پروژه‌ای است که در مرز دانش کامپیوتر و علوم انسانی قرار دارد.

این پژوهش ذیل شاخه «محاسبات و زبان» (Computation and Language) طبقه‌بندی می‌شود و به‌خوبی نشان می‌دهد که چگونه ابزارهای محاسباتی مدرن می‌توانند به تحلیل و درک عمیق‌تر زبان‌ها و تمدن‌های باستانی کمک کنند. این مقاله نمونه‌ای برجسته از تلاقی فناوری و تاریخ است.

پژوهشگران در این مقاله به چالش اصلی استفاده از مدل‌های یادگیری عمیق برای زبان‌های کم‌منبع، یعنی فقدان مدل‌های از پیش‌آموزش‌دیده (Pre-trained Models)، می‌پردازند. آن‌ها برای غلبه بر این چالش، اولین خط لوله (Pipeline) استخراج اطلاعات چندزبانه را برای زبان سومری معرفی می‌کنند. این خط لوله شامل سه وظیفه بنیادین در پردازش زبان طبیعی است:

• برچسب‌گذاری اجزای کلام (Part-of-Speech Tagging): تشخیص نقش دستوری کلمات (اسم، فعل، صفت و…).
• بازشناسی موجودیت‌های نام‌دار (Named Entity Recognition): شناسایی اسامی خاص مانند نام افراد، مکان‌ها و خدایان.
• ترجمه ماشینی (Machine Translation): ترجمه متون سومری به یک زبان مدرن.

علاوه بر این، نویسندگان یک جعبه‌ابزار تفسیرپذیری به نام InterpretLR را توسعه داده‌اند. این ابزار به محققان اجازه می‌دهد تا درک کنند که مدل‌های هوش مصنوعی چگونه و بر اساس چه الگوهایی در داده‌ها تصمیم‌گیری می‌کنند. این ویژگی در کار با زبان‌های کم‌منبع که عملکرد مدل‌ها ممکن است بی‌ثبات باشد، اهمیتی حیاتی دارد. در نهایت، تمام نتایج با استفاده از ارزیابی‌های انسانی توسط متخصصان زبان سومری اعتبارسنجی شده و تمامی کدها، مدل‌ها و مجموعه داده‌های جدید به‌صورت عمومی منتشر شده‌اند تا راه را برای تحقیقات آینده هموار سازند.

زبان سومری به دلایل متعددی یک چالش بزرگ برای NLP محسوب می‌شود: این زبان یک «زبان تک‌خانواده» (Language Isolate) است، یعنی هیچ خویشاوند زنده‌ای ندارد. ساختار آن «پیوندی» (Agglutinative) است که در آن وندهای متعددی به ریشه کلمه می‌چسبند و کلمات طولانی و پیچیده‌ای می‌سازند. از همه مهم‌تر، داده‌های دیجیتال موجود از متون میخی، پراکنده، ناقص و غالباً دارای نویز هستند.

با توجه به این محدودیت‌ها، آموزش یک مدل از صفر برای زبان سومری غیرممکن است. به همین دلیل، محققان از رویکرد یادگیری انتقالی چندزبانه (Cross-lingual Transfer Learning) بهره برده‌اند. در این روش، از یک مدل عظیم که بر روی ده‌ها یا صدها زبان پرمنبع آموزش دیده است (مانند مدل‌های خانواده mBERT یا XLM-RoBERTa) به عنوان نقطه شروع استفاده می‌شود. این مدل‌ها الگوهای زبانی جهان‌شمولی را یاد گرفته‌اند که می‌توانند حتی برای زبانی کاملاً متفاوت و باستانی مانند سومری نیز مفید باشند. سپس این مدل‌ها با داده‌های اندک موجود از زبان سومری «تنظیم دقیق» (Fine-tuning) می‌شوند تا برای وظایف مشخصی مانند برچسب‌گذاری اجزای کلام یا بازشناسی موجودیت‌ها تخصص یابند.

ابزار InterpretLR نیز نقشی کلیدی در این پژوهش ایفا می‌کند. این جعبه‌ابزار با استفاده از تکنیک‌هایی مانند «نقشه‌های برجستگی» (Saliency Maps) یا مصورسازی لایه‌های توجه، نشان می‌دهد که مدل هنگام پیش‌بینی یک برچسب خاص (مثلاً «اسم مکان»)، به کدام کلمات یا بخش‌هایی از جمله ورودی بیشترین توجه را داشته است. این قابلیت به متخصصان سومرشناس اجازه می‌دهد تا منطق مدل را با دانش زبان‌شناسی خود مقایسه کرده و به نتایج آن اعتماد کنند یا خطاهایش را ریشه‌یابی نمایند.

این مقاله به نتایج مهم و امیدبخشی دست یافته است که مرزهای پردازش زبان‌های کم‌منبع را جابجا می‌کند:

• امکان‌پذیری، نه کمال: این پژوهش نشان داد که دستیابی به عملکرد «قابل قبول» در وظایف پیچیده NLP برای زبانی با منابع فوق‌العاده اندک مانند سومری، امکان‌پذیر است. اگرچه نتایج بی‌نقص نیستند، اما به عنوان یک ابزار کمکی برای متخصصان، ارزش فوق‌العاده‌ای دارند.
• قدرت انتقال دانش چندزبانه: یافته‌ها تأیید می‌کنند که مدل‌های از پیش‌آموزش‌دیده چندزبانه، حتی بدون دیدن یک کلمه از زبان سومری در مرحله آموزش اولیه، قادرند ساختارهای پایه‌ای زبانی را به این زبان باستانی منتقل کنند. این یک موفقیت بزرگ برای پارادایم یادگیری انتقالی است.
• اهمیت حیاتی تفسیرپذیری: ابزار InterpretLR ثابت کرد که درک نحوه عملکرد مدل‌ها به اندازه دقت آن‌ها اهمیت دارد. این ابزار به محققان کمک کرد تا به مدل‌ها اعتماد کنند و حتی در برخی موارد، به الگوهای جدیدی در زبان سومری پی ببرند که از چشم انسان دور مانده بود.
• ارائه یک خط پایه (Baseline): این تحقیق یک معیار و نقطه شروع برای تمام پژوهش‌های آتی در زمینه NLP برای زبان‌های باستانی و کم‌منبع ایجاد کرده است. اکنون دیگر محققان می‌دانند که چه سطحی از عملکرد با تکنیک‌های فعلی دست‌یافتنی است.

دستاوردهای این پروژه فراتر از یک مقاله علمی صرف است و کاربردهای عملی گسترده‌ای دارد:

• تسریع تحقیقات در سومرشناسی: زبان‌شناسان و مورخان اکنون می‌توانند از این خط لوله برای تحلیل خودکار هزاران لوح گلی میخی استفاده کنند. این ابزارها می‌توانند به عنوان یک «دستیار هوشمند» عمل کرده و فرآیند ترجمه، دسته‌بندی و استخراج اطلاعات از متون را به طرز چشمگیری سرعت بخشند.
• الگویی برای سایر زبان‌های کم‌منبع: چارچوب ارائه‌شده در این مقاله (استفاده از مدل‌های چندزبانه، تنظیم دقیق و ابزارهای تفسیرپذیری) می‌تواند مستقیماً برای صدها زبان در معرض خطر یا زبان باستانی دیگر که با کمبود داده‌های دیجیتال مواجه هستند، به کار گرفته شود.
• حفظ میراث دیجیتال: این پروژه نمونه‌ای درخشان از کاربرد هوش مصنوعی در خدمت حفظ و احیای میراث فرهنگی بشر است. با تبدیل متون باستانی به داده‌های ساختاریافته و قابل تحلیل، این دانش برای نسل‌های آینده قابل دسترس‌تر می‌شود.
• انتشار منابع برای جامعه علمی: با انتشار عمومی کدها، مدل‌ها و مجموعه داده‌ها، نویسندگان فرهنگ «علم باز» را ترویج داده و به دیگر پژوهشگران امکان می‌دهند تا بر پایه این کار، تحقیقات جدیدی را آغاز کنند.

مقاله “How Low is Too Low?” یک پژوهش پیشگامانه است که با موفقیت نشان می‌دهد مرزهای پردازش زبان طبیعی بسیار گسترده‌تر از آن چیزی است که تصور می‌شد. این تحقیق ثابت می‌کند که با رویکردی هوشمندانه، ترکیبی از یادگیری انتقالی چندزبانه و تمرکز بر تفسیرپذیری، می‌توان بر چالش منابع فوق‌العاده اندک غلبه کرد و ابزارهای مفیدی برای زبان‌های باستانی مانند سومری ساخت.

این کار نه‌تنها پاسخی به پرسش اصلی خود می‌دهد – که «حد بحرانی منابع» بسیار پایین‌تر از تصور ماست – بلکه اهمیت حیاتی همکاری میان متخصصان علوم کامپیوتر و علوم انسانی را به نمایش می‌گذارد. آینده NLP برای زبان‌های کم‌منبع و حفظ تنوع زبانی جهان، در گرو چنین همکاری‌های خلاقانه و بین‌رشته‌ای خواهد بود.