رشد فزاینده حجم متون علمی در حوزه علوم اجتماعی، یافتن تحقیقات مرتبط با موضوعات خاص را به یک چالش بزرگ تبدیل کرده است. در این راستا، استفاده از مدل‌های پردازش زبان طبیعی (NLP) می‌تواند به محققان در یافتن سریع‌تر و دقیق‌تر اطلاعات مورد نیازشان کمک کند. مقاله حاضر به معرفی مدل زبانی جدیدی به نام SsciBERT می‌پردازد که به طور خاص برای متون علوم اجتماعی آموزش داده شده است. این مدل، با بهره‌گیری از پیشرفت‌های اخیر در زمینه یادگیری عمیق و پردازش زبان طبیعی، ابزاری قدرتمند برای محققان علوم اجتماعی فراهم می‌کند تا بتوانند به طور موثرتری به تحلیل و بررسی حجم عظیم اطلاعات موجود در این حوزه بپردازند.

این مقاله توسط تیمی از محققان به سرپرستی سی شن، جیانگ‌فنگ لیو، لی‌تائو لین، یینگ هوانگ، لین ژانگ، چانگ لیو، یوتونگ فنگ و دونگ‌بو وانگ ارائه شده است. زمینه تحقیقاتی این تیم، تمرکز بر استفاده از روش‌های پردازش زبان طبیعی و یادگیری عمیق در حوزه علوم اجتماعی است. نویسندگان با درک نیاز به ابزارهای تخصصی برای تحلیل متون علوم اجتماعی، اقدام به توسعه مدل SsciBERT کرده‌اند. تخصص این محققان در زمینه‌های گوناگون از جمله پردازش زبان طبیعی، یادگیری ماشین و علوم اجتماعی، به آن‌ها این امکان را داده است تا مدلی کارآمد و دقیق را برای این حوزه طراحی و پیاده‌سازی کنند.

چکیده مقاله به این صورت است: “ادبیات آکادمیک علوم اجتماعی، تمدن بشری را ثبت و مسائل اجتماعی انسان را مطالعه می‌کند. با رشد گسترده آن، راه‌های یافتن سریع تحقیقات موجود در مورد مسائل مرتبط، به یک نیاز فوری برای محققان تبدیل شده است. مطالعات قبلی، مانند SciBERT، نشان داده‌اند که پیش‌آموزش با استفاده از متون خاص دامنه می‌تواند عملکرد وظایف پردازش زبان طبیعی را بهبود بخشد. با این حال، مدل زبان از پیش آموزش‌دیده برای علوم اجتماعی تا کنون در دسترس نبوده است. با توجه به این موضوع، تحقیق حاضر یک مدل از پیش آموزش‌دیده را بر اساس چکیده‌های منتشر شده در مجلات نمایه استنادی علوم اجتماعی (SSCI) پیشنهاد می‌کند. این مدل‌ها که در GitHub (https://github.com/S-T-Full-Text-Knowledge-Mining/SSCI-BERT) موجود هستند، عملکرد عالی در طبقه‌بندی رشته، تشخیص عملکرد ساختار چکیده و وظایف تشخیص موجودیت نام‌دار با ادبیات علوم اجتماعی را نشان می‌دهند.”

به طور خلاصه، مقاله SsciBERT، یک مدل زبانی جدید برای تحلیل متون علوم اجتماعی را معرفی می‌کند. این مدل با استفاده از مجموعه داده بزرگی از چکیده‌های مقالات منتشر شده در مجلات معتبر علوم اجتماعی آموزش داده شده است. SsciBERT در وظایف مختلف پردازش زبان طبیعی، از جمله طبقه‌بندی رشته، تشخیص عملکرد ساختار چکیده و تشخیص موجودیت نام‌دار، عملکرد بسیار خوبی از خود نشان داده است. این مدل، ابزاری قدرتمند برای محققان علوم اجتماعی فراهم می‌کند تا بتوانند به طور موثرتری به تحلیل و بررسی متون علمی در این حوزه بپردازند.

روش‌شناسی تحقیق در این مقاله شامل چندین مرحله کلیدی است:

• جمع‌آوری داده: ابتدا، مجموعه داده بزرگی از چکیده‌های مقالات منتشر شده در مجلات نمایه استنادی علوم اجتماعی (SSCI) جمع‌آوری شده است. این مجموعه داده، مبنای آموزش مدل SsciBERT را تشکیل می‌دهد.
• پیش‌پردازش داده: داده‌های جمع‌آوری شده، پیش‌پردازش شده‌اند تا برای آموزش مدل مناسب شوند. این پیش‌پردازش شامل مراحلی مانند حذف علائم نگارشی، تبدیل حروف به حالت کوچک و حذف کلمات پرت (stop words) است.
• آموزش مدل: مدل SsciBERT با استفاده از روش‌های یادگیری عمیق و بر پایه معماری ترنسفورمر (Transformer) آموزش داده شده است. این معماری، به مدل این امکان را می‌دهد تا روابط پیچیده بین کلمات و عبارات را در متن درک کند.
• ارزیابی مدل: عملکرد مدل SsciBERT در وظایف مختلف پردازش زبان طبیعی ارزیابی شده است. این وظایف شامل طبقه‌بندی رشته، تشخیص عملکرد ساختار چکیده و تشخیص موجودیت نام‌دار است. نتایج ارزیابی نشان می‌دهد که SsciBERT در این وظایف عملکرد بسیار خوبی از خود نشان می‌دهد.

برای مثال، در وظیفه طبقه‌بندی رشته، مدل باید بتواند مشخص کند که یک چکیده مقاله به کدام رشته علمی تعلق دارد (مانند جامعه‌شناسی، اقتصاد، روانشناسی و غیره). در وظیفه تشخیص عملکرد ساختار چکیده، مدل باید بتواند بخش‌های مختلف چکیده (مانند مقدمه، روش‌شناسی، یافته‌ها و نتیجه‌گیری) را تشخیص دهد. و در نهایت، در وظیفه تشخیص موجودیت نام‌دار، مدل باید بتواند اسامی خاص (مانند نام افراد، سازمان‌ها و مکان‌ها) را در متن تشخیص دهد.

استفاده از معماری ترنسفورمر و آموزش مدل بر روی مجموعه داده بزرگی از متون علوم اجتماعی، از جمله عوامل کلیدی موفقیت SsciBERT در وظایف مختلف پردازش زبان طبیعی است.

یافته‌های کلیدی این تحقیق عبارتند از:

• مدل SsciBERT در مقایسه با سایر مدل‌های زبانی عمومی، در وظایف مختلف پردازش زبان طبیعی مرتبط با متون علوم اجتماعی، عملکرد بهتری دارد.
• آموزش مدل بر روی مجموعه داده تخصصی از متون علوم اجتماعی، به طور قابل توجهی عملکرد آن را بهبود می‌بخشد.
• SsciBERT می‌تواند به طور موثری در طبقه‌بندی رشته‌های علمی، تشخیص ساختار چکیده و تشخیص موجودیت نام‌دار در متون علوم اجتماعی مورد استفاده قرار گیرد.

به عنوان مثال، نتایج نشان داده است که SsciBERT در وظیفه طبقه‌بندی رشته، دقت بالاتری نسبت به مدل‌های عمومی مانند BERT دارد. این نشان می‌دهد که SsciBERT به طور خاص برای درک و تحلیل متون علوم اجتماعی بهینه شده است.

مدل SsciBERT کاربردهای متعددی در حوزه علوم اجتماعی دارد. برخی از مهم‌ترین کاربردهای آن عبارتند از:

• جستجوی پیشرفته متون علمی: SsciBERT می‌تواند برای ایجاد سیستم‌های جستجوی پیشرفته‌تر و دقیق‌تر برای متون علمی در حوزه علوم اجتماعی مورد استفاده قرار گیرد. این سیستم‌ها می‌توانند به محققان کمک کنند تا به سرعت و به آسانی تحقیقات مرتبط با موضوعات مورد نظر خود را پیدا کنند.
• خلاصه‌سازی خودکار مقالات: SsciBERT می‌تواند برای خلاصه‌سازی خودکار مقالات علمی در حوزه علوم اجتماعی مورد استفاده قرار گیرد. این خلاصه‌ها می‌توانند به محققان کمک کنند تا در زمان خود صرفه‌جویی کنند و به سرعت از محتوای مقالات مطلع شوند.
• تحلیل احساسات در متون اجتماعی: SsciBERT می‌تواند برای تحلیل احساسات موجود در متون اجتماعی مورد استفاده قرار گیرد. این تحلیل می‌تواند به محققان کمک کند تا درک بهتری از دیدگاه‌ها و نگرش‌های مختلف در جامعه پیدا کنند.
• توسعه ابزارهای آموزشی: SsciBERT می‌تواند برای توسعه ابزارهای آموزشی هوشمند در حوزه علوم اجتماعی مورد استفاده قرار گیرد. این ابزارها می‌توانند به دانشجویان در یادگیری مفاهیم و نظریه‌های مختلف در این حوزه کمک کنند.

دستیابی به این کاربردها، می‌تواند به محققان و دانشجویان علوم اجتماعی کمک شایانی کند و فرآیند تحقیق و یادگیری را تسهیل بخشد. دسترسی به کد منبع مدل SsciBERT در گیت‌هاب (https://github.com/S-T-Full-Text-Knowledge-Mining/SSCI-BERT) نیز این امکان را فراهم می‌کند که محققان بتوانند به توسعه و بهبود این مدل کمک کنند.

مقاله SsciBERT، یک مدل زبانی جدید و کارآمد برای تحلیل متون علوم اجتماعی را معرفی می‌کند. این مدل، با بهره‌گیری از پیشرفت‌های اخیر در زمینه یادگیری عمیق و پردازش زبان طبیعی، ابزاری قدرتمند برای محققان علوم اجتماعی فراهم می‌کند تا بتوانند به طور موثرتری به تحلیل و بررسی حجم عظیم اطلاعات موجود در این حوزه بپردازند. نتایج این تحقیق نشان می‌دهد که SsciBERT در وظایف مختلف پردازش زبان طبیعی، عملکرد بسیار خوبی از خود نشان می‌دهد و می‌تواند در کاربردهای مختلفی مانند جستجوی پیشرفته متون علمی، خلاصه‌سازی خودکار مقالات و تحلیل احساسات در متون اجتماعی مورد استفاده قرار گیرد. توسعه این مدل، گامی مهم در جهت استفاده از هوش مصنوعی برای حل مسائل و چالش‌های موجود در حوزه علوم اجتماعی است.