در دنیای امروز، کاربرد یادگیری ماشین در حوزه‌های مختلف علوم، به خصوص ریاضیات نمادین، به طور چشمگیری رو به افزایش است. با این حال، یکی از چالش‌های مهم در این زمینه، کمبود منابع متمرکز و غنی از عبارات نمادین ریاضی است که بتوان از آن‌ها به عنوان داده‌های آموزشی استفاده کرد. در مقابل، در حوزه پردازش زبان طبیعی (NLP)، منابع عظیمی مانند ویکی‌پدیا وجود دارند که حجم بسیار زیادی از داده‌های متنی واقعی را در اختیار محققان قرار می‌دهند.

مقاله “تقطیر دانش ریاضی ویکی‌پدیا در مدل‌های شبکه عصبی” به دنبال حل این مشکل است. این مقاله با اتخاذ رویکرد “ریاضیات به عنوان زبان”، یک فرآیند (Pipeline) برای استخراج و تبدیل عبارات ریاضی موجود در ویکی‌پدیا به کدگذاری‌های نمادین ارائه می‌دهد. این کدگذاری‌ها می‌توانند در وظایف یادگیری ماشین پایین‌دستی (Downstream) مورد استفاده قرار گیرند. به عبارت دیگر، هدف اصلی این مقاله، ایجاد پلی بین دانش ریاضی موجود در ویکی‌پدیا و مدل‌های یادگیری ماشین است.

اهمیت این مقاله در این است که با ارائه یک روش کارآمد برای استخراج داده‌های ریاضی از ویکی‌پدیا، راه را برای توسعه مدل‌های یادگیری ماشین قوی‌تر و دقیق‌تر در حوزه ریاضیات نمادین هموار می‌کند. این امر می‌تواند منجر به پیشرفت‌هایی در زمینه‌های مختلف از جمله حل معادلات، اثبات قضایا، و طراحی الگوریتم‌های ریاضیاتی شود.

این مقاله توسط Joanne T. Kim، Mikel Landajuela و Brenden K. Petersen نوشته شده است. نویسندگان این مقاله، محققان فعال در حوزه یادگیری ماشین و هوش مصنوعی هستند و تمرکز اصلی آن‌ها بر توسعه روش‌های جدید برای استفاده از یادگیری ماشین در حل مسائل ریاضی است.

چکیده این مقاله به این صورت است: کاربردهای یادگیری ماشین در ریاضیات نمادین محبوبیت فزاینده‌ای پیدا می‌کنند، اما کمبود یک منبع متمرکز از عبارات نمادین واقعی برای استفاده به عنوان داده‌های آموزشی وجود دارد. در مقابل، حوزه پردازش زبان طبیعی از منابعی مانند ویکی‌پدیا بهره می‌برد که حجم عظیمی از داده‌های متنی واقعی را ارائه می‌دهد. با اتخاذ فلسفه “ریاضیات به عنوان زبان”، ما این شکاف را با معرفی یک فرآیند برای تقطیر عبارات ریاضی تعبیه شده در ویکی‌پدیا به کدگذاری‌های نمادین برای استفاده در وظایف یادگیری ماشین پایین‌دستی پر می‌کنیم. ما نشان می‌دهیم که یک مدل زبانی ریاضی که بر روی این “مجموعه پیکره” از عبارات آموزش داده شده است، می‌تواند به عنوان یک پیشینه (Prior) برای بهبود عملکرد جستجوی هدایت شده عصبی برای وظیفه رگرسیون نمادین استفاده شود.

به طور خلاصه، این مقاله یک روش جدید برای استفاده از ویکی‌پدیا به عنوان یک منبع داده برای آموزش مدل‌های یادگیری ماشین در حوزه ریاضیات نمادین ارائه می‌دهد. این روش شامل استخراج عبارات ریاضی از صفحات ویکی‌پدیا، تبدیل آن‌ها به کدگذاری‌های نمادین، و استفاده از این کدگذاری‌ها برای آموزش یک مدل زبانی ریاضی است. در نهایت، نویسندگان نشان می‌دهند که این مدل زبانی ریاضی می‌تواند برای بهبود عملکرد الگوریتم‌های رگرسیون نمادین مورد استفاده قرار گیرد.

روش‌شناسی این تحقیق شامل مراحل زیر است:

• استخراج داده‌ها از ویکی‌پدیا: نویسندگان با استفاده از یک فرآیند خودکار، عبارات ریاضی را از صفحات ویکی‌پدیا استخراج کردند. این فرآیند شامل شناسایی تگ‌های HTML مرتبط با عبارات ریاضی (مانند تگ‌های <math>)، تجزیه این تگ‌ها، و تبدیل عبارات ریاضی به یک فرمت استاندارد است. برای مثال، یک عبارت ریاضی مانند `x^2 + y^2 = r^2` از داخل تگ <math> استخراج و به یک فرمت قابل پردازش تبدیل می‌شود.
• تبدیل عبارات ریاضی به کدگذاری‌های نمادین: پس از استخراج عبارات ریاضی، آن‌ها به کدگذاری‌های نمادین تبدیل شدند. این کدگذاری‌ها به گونه‌ای طراحی شده‌اند که ساختار و معنای عبارات ریاضی را حفظ کنند. برای این کار، از یک زبان برنامه‌نویسی خاص (احتمالاً یک زبان مختص ریاضیات نمادین مانند SymPy یا Mathematica) استفاده شده است.
• آموزش مدل زبانی ریاضی: با استفاده از کدگذاری‌های نمادین، یک مدل زبانی ریاضی آموزش داده شد. این مدل، احتمال ظاهر شدن یک عبارت ریاضی خاص را با توجه به عبارات ریاضی قبلی در یک متن یاد می‌گیرد. به عبارت دیگر، مدل یاد می‌گیرد که چگونه عبارات ریاضی مختلف با یکدیگر مرتبط هستند. از تکنیک‌های یادگیری عمیق، به ویژه شبکه‌های عصبی بازگشتی (RNNs) یا ترانسفورمرها (Transformers)، برای آموزش این مدل استفاده شده است.
• ارزیابی عملکرد مدل: عملکرد مدل زبانی ریاضی در یک وظیفه رگرسیون نمادین ارزیابی شد. در این وظیفه، هدف یافتن یک معادله ریاضی است که بهترین برازش را بر روی یک مجموعه داده معین داشته باشد. نویسندگان نشان دادند که استفاده از مدل زبانی ریاضی به عنوان یک پیشینه، عملکرد الگوریتم‌های رگرسیون نمادین را بهبود می‌بخشد. به عنوان مثال، فرض کنید یک مجموعه داده شامل نقاط (1, 1)، (2, 4)، (3, 9) باشد. الگوریتم رگرسیون نمادین با کمک مدل زبانی ریاضی می‌تواند به معادله `y = x^2` به عنوان بهترین برازش برسد.

یافته‌های کلیدی این تحقیق عبارتند از:

• امکان استخراج موثر داده‌های ریاضی از ویکی‌پدیا: این مقاله نشان داد که می‌توان با استفاده از یک فرآیند خودکار، حجم قابل توجهی از داده‌های ریاضی را از ویکی‌پدیا استخراج کرد.
• ایجاد یک مدل زبانی ریاضی مفید: مدل زبانی ریاضی آموزش داده شده در این تحقیق، توانایی بالایی در درک و تولید عبارات ریاضی دارد.
• بهبود عملکرد رگرسیون نمادین: استفاده از مدل زبانی ریاضی به عنوان یک پیشینه، عملکرد الگوریتم‌های رگرسیون نمادین را بهبود می‌بخشد. این بدان معناست که مدل‌های رگرسیون نمادین می‌توانند با کمک مدل زبانی ریاضی، معادلات ریاضی دقیق‌تری را برای برازش داده‌ها پیدا کنند.

به عبارت دیگر، این تحقیق نشان داد که می‌توان از دانش ریاضی موجود در ویکی‌پدیا برای آموزش مدل‌های یادگیری ماشین استفاده کرد و این مدل‌ها می‌توانند در حل مسائل ریاضی مفید باشند.

نتایج این مقاله می‌تواند کاربردهای متعددی داشته باشد، از جمله:

• توسعه الگوریتم‌های رگرسیون نمادین قوی‌تر: مدل زبانی ریاضی می‌تواند به عنوان یک پیشینه در الگوریتم‌های رگرسیون نمادین مورد استفاده قرار گیرد و عملکرد آن‌ها را بهبود بخشد.
• ایجاد ابزارهای جدید برای حل مسائل ریاضی: با استفاده از مدل زبانی ریاضی، می‌توان ابزارهای جدیدی برای حل مسائل ریاضی، مانند حل معادلات و اثبات قضایا، ایجاد کرد.
• بهبود درک ماشین از ریاضیات: این تحقیق به بهبود درک ماشین از ریاضیات و ایجاد سیستم‌های هوشمندتر کمک می‌کند.
• استخراج دانش ضمنی ریاضی از متون: این روش می‌تواند برای استخراج دانش ریاضی نهفته در متون علمی و کتاب‌های درسی مورد استفاده قرار گیرد. برای مثال، می‌توان از این روش برای استخراج روابط ریاضی مهم از مقالات فیزیک یا مهندسی استفاده کرد.

دستاورد اصلی این مقاله، ارائه یک روش جدید و کارآمد برای استفاده از ویکی‌پدیا به عنوان یک منبع داده برای آموزش مدل‌های یادگیری ماشین در حوزه ریاضیات نمادین است. این روش می‌تواند راه را برای تحقیقات بیشتر در این زمینه هموار کند.

مقاله “تقطیر دانش ریاضی ویکی‌پدیا در مدل‌های شبکه عصبی” یک گام مهم در جهت استفاده از یادگیری ماشین در حوزه ریاضیات نمادین است. این مقاله با ارائه یک روش جدید برای استخراج داده‌های ریاضی از ویکی‌پدیا و آموزش مدل‌های زبانی ریاضی، نشان می‌دهد که می‌توان از دانش موجود در این منبع عظیم برای حل مسائل ریاضی استفاده کرد. این تحقیق می‌تواند الهام‌بخش تحقیقات بیشتر در این زمینه باشد و منجر به پیشرفت‌هایی در حوزه‌های مختلف از جمله رگرسیون نمادین، حل معادلات، و اثبات قضایا شود. به طور کلی، این مقاله با پیوند دادن دانش ریاضی موجود در ویکی‌پدیا به مدل‌های یادگیری ماشین، دریچه‌های جدیدی را به روی تحقیقات در حوزه هوش مصنوعی و ریاضیات گشوده است.