در سال‌های اخیر، حوزه پردازش زبان طبیعی (NLP) شاهد پیشرفت‌های چشمگیری بوده است که عمدتاً به لطف ظهور مدل‌های زبانی بزرگ (LLMs) و مدل‌های از پیش آموزش‌دیده (Pre-trained Models) حاصل شده است. این مدل‌ها، با عملکرد خارق‌العاده خود در انجام وظایف مختلف زبانی، نه تنها توجه جامعه علمی را به خود جلب کرده‌اند، بلکه به تیتر اصلی اخبار فناوری نیز تبدیل شده‌اند. با این حال، یک واقعیت غیرقابل انکار در پس این پیشرفت‌ها وجود دارد: تقریباً تمام این مدل‌های بنیادین توسط غول‌های فناوری و آزمایشگاه‌های صنعتی (مانند گوگل، متا، و OpenAI) توسعه یافته یا با همکاری نزدیک آن‌ها ساخته شده‌اند.

این وابستگی فزاینده، پرسش مهمی را در جامعه علمی NLP مطرح می‌کند: آیا رابطه‌ی بین دانشگاه و صنعت یک «همکاری» سالم و متقابل است یا به یک «تسخیر شرکتی» تبدیل شده است که در آن، اهداف، منابع و مسیر تحقیقاتی حوزه توسط شرکت‌های خصوصی تعیین می‌شود؟ مقاله «همکاری یا تسخیر شرکتی؟» به قلم ویل ایتکن و همکارانش، تلاشی نظام‌مند برای پاسخ به این پرسش از طریق کمی‌سازی و تحلیل داده‌هاست. اهمیت این پژوهش در آن است که برای اولین بار، با ارائه شواهد آماری، زنگ خطری را در مورد استقلال علمی، تنوع پژوهشی و آینده حوزه NLP به صدا درمی‌آورد و از جامعه علمی می‌خواهد تا به تأمل در مورد این پویایی قدرت بپردازند.

این مقاله توسط تیمی از پژوهشگران به نام‌های ویل ایتکن (Will Aitken)، محمد عبدالله (Mohamed Abdalla)، کارن رودی (Karen Rudie) و کاترین استینسون (Catherine Stinson) نوشته شده است. این پژوهش در کنفرانس معتبر EMNLP 2022، که یکی از برترین رویدادهای علمی در زمینه پردازش زبان طبیعی و زبان‌شناسی محاسباتی است، ارائه گردید. انتخاب این کنفرانس به عنوان بستر مطالعه، اعتبار و اهمیت یافته‌های آن را دوچندان می‌کند، زیرا مقالات منتشر شده در آن، نمایانگر جریان اصلی و پیشرفته‌ترین تحقیقات در این حوزه هستند. این مقاله در دسته «محاسبات و زبان» (Computation and Language) قرار می‌گیرد و به تحلیل جامعه‌شناختی و فراتحلیلی از روندهای پژوهشی در NLP می‌پردازد.

نویسندگان در چکیده مقاله به صراحت بیان می‌کنند که عملکرد خیره‌کننده مدل‌های از پیش آموزش‌دیده، که اغلب محصول صنعت هستند، استفاده از آن‌ها را برای رقابت در معیارهای استاندارد NLP و باقی ماندن در عرصه پژوهش این حوزه، به یک ضرورت تبدیل کرده است. پژوهشگران برای سنجش میزان این وابستگی، ۱۰۰ مقاله منتشر شده در کنفرانس EMNLP 2022 را مورد بررسی قرار داده‌اند تا مشخص کنند محققان تا چه حد به مدل‌ها، مصنوعات (Artifacts) و مشارکت‌های صنعتی متکی هستند.

یافته اصلی آن‌ها تکان‌دهنده است: نرخ ارجاع به مصنوعات صنعتی حداقل سه برابر بیشتر از آن چیزی است که بر اساس توزیع مقالات انتظار می‌رود. این کار به عنوان یک چارچوب اولیه عمل می‌کند تا پژوهشگران آینده بتوانند با دقت بیشتری به این دو سؤال اساسی پاسخ دهند:

1. آیا همکاری با صنعت، در غیاب یک جایگزین واقعی، همچنان «همکاری» محسوب می‌شود؟
2. آیا مسیر تحقیقاتی NLP توسط انگیزه‌ها و جهت‌گیری‌های شرکت‌های خصوصی تسخیر شده است؟

این مقاله پاسخی قطعی ارائه نمی‌دهد، بلکه با ارائه داده‌های کمی، این پرسش‌های حیاتی را برای جامعه علمی صورت‌بندی می‌کند.

روش تحقیق این مقاله بر یک تحلیل کمی و پیمایشی استوار است. مراحل اصلی این فرآیند به شرح زیر بوده است:

• نمونه‌گیری: محققان به طور تصادفی ۱۰۰ مقاله از مجموعه مقالات اصلی کنفرانس EMNLP 2022 را به عنوان نمونه آماری خود انتخاب کردند. این حجم نمونه به اندازه‌ای بزرگ است که بتواند تصویری نماینده از کل کنفرانس ارائه دهد.
• استخراج داده‌ها: برای هر مقاله، تیم تحقیق به دقت بخش‌های مختلف آن، از جمله ارجاعات (Citations)، بخش روش‌شناسی و پیوست‌ها را بررسی کردند تا تمامی مصنوعات علمی مورد استفاده را شناسایی کنند. این مصنوعات شامل موارد زیر بودند:
  • مدل‌های از پیش آموزش‌دیده: مانند BERT، GPT-2، RoBERTa، T5 و غیره.
  • مجموعه‌داده‌ها (Datasets): مانند SQuAD، GLUE، ImageNet و…
  • کتابخانه‌های نرم‌افزاری: مانند TensorFlow، PyTorch، Hugging Face Transformers.
• طبقه‌بندی وابستگی: هر مصنوع شناسایی‌شده بر اساس منشأ آن طبقه‌بندی شد: (۱) کاملاً صنعتی، (۲) کاملاً دانشگاهی، (۳) محصول همکاری صنعت و دانشگاه، یا (۴) سایر موارد. این طبقه‌بندی به آن‌ها اجازه داد تا سهم هر بخش را به طور دقیق مشخص کنند.
• تحلیل آماری: گام نهایی، مقایسه فراوانی مشاهده‌شده ارجاع به مصنوعات صنعتی با یک «فراوانی مورد انتظار» بود. فراوانی مورد انتظار احتمالاً بر اساس نسبت مقالات منتشر شده توسط نویسندگان صنعتی در همان کنفرانس محاسبه شده است. نتیجه این مقایسه، همان‌طور که اشاره شد، نشان داد که وابستگی به محصولات صنعتی به مراتب بیشتر از مشارکت مستقیم آن‌ها در تولید مقالات است.

این پژوهش به چندین یافته مهم و قابل تأمل دست یافت که چشم‌انداز فعلی تحقیقات NLP را به چالش می‌کشد:

• وابستگی شدید و نامتناسب: یافته مرکزی این است که ارجاع و استفاده از ابزارها و مدل‌های صنعتی در مقالات دانشگاهی، به طور نامتناسبی بالاست. نرخ استناد به این مصنوعات حداقل سه برابر بیشتر از آن چیزی است که بر اساس مشارکت مستقیم صنعت در انتشار مقالات انتظار می‌رود. این امر نشان می‌دهد که حتی مقالاتی که کاملاً توسط دانشگاهیان نوشته می‌شوند، به شدت به زیرساخت‌ها و مدل‌های توسعه‌یافته در صنعت وابسته‌اند.
• اثر دروازه‌بانی (Gatekeeping): برای کسب نتایج پیشرفته (State-of-the-art) و انتشار مقاله در کنفرانس‌های برتر، استفاده از مدل‌های بزرگ صنعتی تقریباً اجتناب‌ناپذیر است. این موضوع یک اثر دروازه‌بانی ایجاد می‌کند که در آن، محققانی که به منابع محاسباتی عظیم برای اجرای این مدل‌ها دسترسی ندارند (مثلاً در دانشگاه‌های کوچکتر یا کشورهای در حال توسعه)، از رقابت باز می‌مانند.
• همگن‌سازی پژوهش (Homogenization of Research): اتکای گسترده بر تعداد محدودی از مدل‌های بنیادین (مانند خانواده مدل‌های BERT یا GPT) می‌تواند منجر به یکسان‌سازی و کاهش تنوع در رویکردهای پژوهشی شود. به جای ابداع معماری‌ها یا پارادایم‌های کاملاً جدید، بخش بزرگی از تحقیقات به «تنظیم دقیق» (Fine-tuning) این مدل‌های موجود برای وظایف خاص محدود می‌شود.
• جهت‌دهی به پرسش‌های تحقیق: وقتی ابزارها توسط صنعت تعریف می‌شوند، پرسش‌های تحقیق نیز به طور ناخودآگاه به سمت مسائلی سوق داده می‌شوند که با این ابزارها قابل حل هستند. این امر می‌تواند باعث غفلت از موضوعات مهمی شود که با مدل‌های بزرگ فعلی همخوانی ندارند، مانند زبان‌های کم‌منبع، بهره‌وری محاسباتی، یا تفسیرپذیری عمیق.

اگرچه این مقاله خود یک مدل یا الگوریتم جدید ارائه نمی‌دهد، اما دستاوردهای آن برای جامعه علمی بسیار مهم و کاربردی است:

• ارائه شواهد کمی برای یک نگرانی کیفی: این تحقیق، یک نگرانی رایج اما عمدتاً مبتنی بر شواهد حکایتی را به یک واقعیت آماری و قابل اندازه‌گیری تبدیل کرد. ارائه عدد و رقم مشخص، بحث در این مورد را از حوزه نظرات شخصی خارج کرده و به یک مسئله جدی علمی تبدیل می‌کند.
• ایجاد یک چارچوب برای مطالعات آینده: این مقاله یک روش‌شناسی شفاف برای ارزیابی وابستگی علمی ارائه می‌دهد که می‌تواند توسط دیگران برای رصد این روند در طول زمان یا در حوزه‌های دیگر هوش مصنوعی (مانند بینایی کامپیوتر) به کار گرفته شود.
• آگاهی‌بخشی برای نهادهای سیاست‌گذار: یافته‌های این تحقیق می‌تواند برای آژانس‌های تأمین بودجه، دانشگاه‌ها و برگزارکنندگان کنفرانس‌ها مفید باشد تا سیاست‌هایی را برای ترویج استقلال علمی و تنوع تحقیقاتی اتخاذ کنند. به عنوان مثال، می‌توان به تخصیص بودجه برای ایجاد زیرساخت‌های محاسباتی عمومی یا ایجاد بخش‌های ویژه در کنفرانس‌ها برای تحقیقات کم‌هزینه اشاره کرد.
• تحریک یک گفتگوی انتقادی: مهم‌ترین دستاورد این مقاله، برانگیختن یک گفتگوی ضروری و انتقادی در جامعه NLP است. این تحقیق محققان را وادار می‌کند تا از خود بپرسند که آیا مسیر فعلی به نفع پیشرفت پایدار علم است یا صرفاً به نفع اهداف تجاری شرکت‌های بزرگ فناوری.

مقاله «همکاری یا تسخیر شرکتی؟» یک تحلیل هوشمندانه و به‌موقع از وضعیت فعلی تحقیقات در حوزه پردازش زبان طبیعی است. این پژوهش با استفاده از داده‌های واقعی از یکی از معتبرترین کنفرانس‌های این رشته، نشان می‌دهد که وابستگی جامعه دانشگاهی به مصنوعات صنعتی به سطح نگران‌کننده‌ای رسیده است. این وابستگی، استقلال، تنوع و فراگیر بودن تحقیقات علمی را تهدید می‌کند.

نویسندگان به جای ارائه یک قضاوت نهایی، جامعه علمی را با یک دوگانه اساسی روبرو می‌کنند: آیا این رابطه یک «همکاری» متقابل است یا یک «تسخیر» یک‌طرفه؟ شواهد ارائه شده به شدت به سمت گزینه دوم متمایل است، به‌ویژه زمانی که جایگزین‌های قابل دوامی برای ابزارهای صنعتی وجود ندارد. این مقاله یک دعوت به اقدام برای کل جامعه NLP است تا به طور جدی در مورد ارزش‌ها، اولویت‌ها و ساختارهای حاکم بر این حوزه تأمل کنند و راهکارهایی برای تضمین آینده‌ای سالم، مستقل و عادلانه برای تحقیقات علمی بیابند. در نهایت، این پژوهش یادآوری می‌کند که پیشرفت واقعی علم تنها با بهبود معیارها حاصل نمی‌شود، بلکه نیازمند حفظ تنوع فکری و استقلال پژوهشی است.