مقاله حاضر به بررسی روش نوینی برای پیش‌بینی پیوند در گراف‌های دانش (Knowledge Graphs) با استفاده از رویکردی آبشاری و تلفیق اطلاعات از منابع مختلف (بین‌وجهی) می‌پردازد. پیش‌بینی پیوند، به معنای حدس زدن روابط احتمالی بین موجودیت‌ها در یک گراف دانش است، و از اهمیت بالایی در زمینه‌های مختلف هوش مصنوعی برخوردار است.

گراف‌های دانش، ساختارهای اطلاعاتی هستند که دانش جهان را به صورت ساخت‌یافته و در قالب گره‌ها (موجودیت‌ها) و یال‌ها (روابط) نشان می‌دهند. این گراف‌ها در کاربردهایی نظیر پردازش زبان طبیعی، بازیابی اطلاعات و زیست‌پزشکی نقش کلیدی ایفا می‌کنند. به عنوان مثال، یک گراف دانش می‌تواند اطلاعاتی درباره فیلم‌ها (بازیگران، کارگردان، ژانر)، داروها (اثرات جانبی، تداخلات دارویی) یا مفاهیم (تعاریف، روابط با سایر مفاهیم) را ذخیره کند.

پیش‌بینی پیوند در گراف‌های دانش، فرآیندی است که هدف آن تکمیل این گراف‌ها با افزودن پیوندهای جدید بر اساس دانش موجود است. این کار می‌تواند به بهبود دقت و کامل بودن اطلاعات موجود در گراف کمک کند، و در نتیجه عملکرد سیستم‌هایی که از این گراف‌ها استفاده می‌کنند را ارتقا دهد. فرض کنید در یک گراف دانش مربوط به فیلم‌ها، رابطه‌ای بین یک بازیگر و فیلمی که در آن بازی کرده وجود نداشته باشد. پیش‌بینی پیوند می‌تواند با تحلیل سایر اطلاعات موجود (مانند فیلم‌های دیگر بازیگر یا سایر بازیگران فیلم) این رابطه را حدس بزند و به گراف اضافه کند.

روش‌های سنتی پیش‌بینی پیوند معمولاً بر استفاده از تکنیک‌های “تعبیه گراف دانش” (Knowledge Graph Embeddings – KGEs) متکی هستند. این تکنیک‌ها، گره‌ها و یال‌های گراف دانش را به بردارهای عددی در یک فضای برداری تبدیل می‌کنند، به طوری که روابط معنایی بین موجودیت‌ها در گراف، در روابط هندسی بین بردارها منعکس شود. با این حال، این روش‌ها اغلب از اطلاعات متنی و توضیحات مربوط به موجودیت‌ها غافل می‌شوند.

اخیراً، استفاده از مدل‌های زبانی قدرتمند (Language Models – LMs) در کنار KGEها، نتایج امیدوارکننده‌ای در پیش‌بینی پیوند به دست آورده است. مدل‌های زبانی می‌توانند اطلاعات متنی مربوط به موجودیت‌ها را در نظر بگیرند و در نتیجه دقت پیش‌بینی را بهبود بخشند. اما، تلفیق این دو نوع مدل می‌تواند از نظر محاسباتی پرهزینه باشد، به خصوص در گراف‌های دانش بزرگ.

این مقاله توسط تارا صفوی، داگ داونی و تام هوپ نوشته شده است. زمینه تحقیقاتی این نویسندگان به طور کلی در حوزه‌های هوش مصنوعی، پردازش زبان طبیعی و یادگیری ماشین قرار دارد. تمرکز اصلی این تحقیق، ارائه یک روش کارآمد و دقیق برای پیش‌بینی پیوند در گراف‌های دانش با استفاده از تلفیق اطلاعات متنی و ساختاری است.

چکیده مقاله بیان می‌کند که روش‌های فعلی تلفیق KGEها و LMs برای پیش‌بینی پیوند، یا از نظر دقت رتبه‌بندی به طور مداوم مؤثر نیستند، یا به دلیل انفجار ترکیبی رتبه‌بندی زوجی با مدل‌های زبانی عمیق، در مجموعه‌های داده بزرگ عملاً ناکارآمد هستند. به عبارت دیگر، روش‌هایی که هم دقیق هستند و هم از اطلاعات متنی استفاده می‌کنند، معمولاً بسیار کند هستند و برای گراف‌های دانش بزرگ مناسب نیستند.

مقاله “کسکیدر” (CascadER) یک معماری رتبه‌بندی لایه‌ای جدید ارائه می‌دهد که هدف آن حفظ دقت رتبه‌بندی تلفیق کامل، ضمن بهبود قابل توجه کارایی است. کسکیدر از LMs برای رتبه‌بندی مجدد خروجی‌های KGEهای کارآمدتر استفاده می‌کند. این روش از یک طرح انتخاب زیرمجموعه تطبیقی استفاده می‌کند که هدف آن فراخوانی LMs به حداقل رساندن، ضمن به حداکثر رساندن افزایش دقت نسبت به KGE است. به بیان ساده‌تر، ابتدا KGEها یک لیست اولیه از پیوندهای احتمالی را ارائه می‌دهند. سپس، کسکیدر با استفاده از LMs، این لیست را بازبینی و پیوندهایی که احتمال درست بودن آن‌ها بیشتر است را در رتبه‌های بالاتر قرار می‌دهد. نکته کلیدی این است که کسکیدر، LMs را فقط بر روی یک زیرمجموعه کوچک از پیوندهای احتمالی فراخوانی می‌کند، که این امر به طور قابل توجهی کارایی را افزایش می‌دهد.

روش‌شناسی کسکیدر بر پایه یک معماری آبشاری استوار است که در آن، ابتدا یک مدل KGE پایه (که می‌تواند هر یک از مدل‌های موجود در این زمینه باشد) برای تولید یک لیست رتبه‌بندی شده از پیوندهای احتمالی به کار می‌رود. سپس، یک مدل زبانی (LM) قدرتمند، این لیست را بازبینی و رتبه‌بندی می‌کند.

نوآوری اصلی در کسکیدر، روش انتخاب زیرمجموعه تطبیقی است. به جای استفاده از LM برای رتبه‌بندی مجدد تمام پیوندهای احتمالی، کسکیدر تنها یک زیرمجموعه از آن‌ها را انتخاب می‌کند. این انتخاب بر اساس معیارهایی صورت می‌گیرد که هدف آن‌ها شناسایی پیوندهایی است که احتمال بیشتری دارد با استفاده از LM، رتبه‌بندی آن‌ها بهبود یابد. به عنوان مثال، پیوندهایی که KGE در مورد آن‌ها اطمینان کمتری دارد، یا پیوندهایی که دارای توضیحات متنی غنی‌تری هستند، ممکن است برای انتخاب در این زیرمجموعه در اولویت قرار گیرند.

برای ارزیابی عملکرد کسکیدر، نویسندگان آزمایش‌های گسترده‌ای را بر روی چهار مجموعه داده معیار انجام داده‌اند. این آزمایش‌ها شامل مقایسه کسکیدر با روش‌های پایه KGE و روش‌های تلفیقی بین‌وجهی موجود است. معیارهای ارزیابی اصلی، دقت رتبه‌بندی (به عنوان مثال، MRR – میانگین رتبه متقابل) و کارایی (به عنوان مثال، زمان اجرا) هستند.

• کسکیدر به طور قابل توجهی دقت رتبه‌بندی را نسبت به روش‌های پایه KGE بهبود می‌بخشد. در برخی از مجموعه‌های داده، کسکیدر توانسته است MRR را تا ۹ درصد افزایش دهد.
• کسکیدر از نظر کارایی، بسیار بهتر از روش‌های تلفیقی بین‌وجهی رقیب عمل می‌کند. در برخی موارد، کسکیدر توانسته است زمان اجرا را یک یا چند مرتبه بزرگی کاهش دهد.
• نویسندگان نشان داده‌اند که تنوع مدل‌ها در وجه‌های مختلف (یعنی استفاده از KGE و LM که اطلاعات متفاوتی را در نظر می‌گیرند) و حفظ سیگنال‌های اطمینان مدل‌های منفرد (یعنی استفاده از اطلاعات مربوط به میزان اطمینان KGE و LM در انتخاب زیرمجموعه) به توضیح اثربخشی کسکیدر کمک می‌کند.

کسکیدر می‌تواند در طیف گسترده‌ای از کاربردها که از گراف‌های دانش استفاده می‌کنند، مورد استفاده قرار گیرد. برخی از این کاربردها عبارتند از:

• پردازش زبان طبیعی: بهبود درک زبان، پاسخ به سؤالات، و تولید متن.
• بازیابی اطلاعات: بهبود دقت و مرتبط بودن نتایج جستجو.
• زیست‌پزشکی: کشف روابط جدید بین داروها، ژن‌ها و بیماری‌ها.
• سیستم‌های توصیه گر: ارائه توصیه‌های شخصی‌سازی‌شده‌تر بر اساس دانش موجود در گراف‌های دانش.

دستاورد اصلی این مقاله، ارائه یک روش جدید و کارآمد برای پیش‌بینی پیوند در گراف‌های دانش است که می‌تواند با دقت بالا، اطلاعات متنی و ساختاری را با هم تلفیق کند. این روش می‌تواند به محققان و توسعه‌دهندگان کمک کند تا سیستم‌های هوشمندتری را طراحی و پیاده‌سازی کنند که قادر به درک و استفاده از دانش موجود در گراف‌های دانش باشند.

مقاله “کسکیدر: روش آبشاری بین‌وجهی برای پیش‌بینی پیوند در گراف دانش” یک سهم قابل توجه در زمینه پیش‌بینی پیوند در گراف‌های دانش ارائه می‌دهد. این مقاله یک معماری جدید را معرفی می‌کند که با تلفیق کارآمد KGEها و LMs، دقت و کارایی را به طور همزمان بهبود می‌بخشد. یافته‌های این تحقیق، درک بهتری از اهمیت تنوع مدل‌ها و حفظ سیگنال‌های اطمینان در روش‌های تلفیقی بین‌وجهی ارائه می‌دهد و مسیرهای امیدوارکننده‌ای را برای تحقیقات آینده در این زمینه پیشنهاد می‌کند.

در نهایت، کسکیدر یک ابزار ارزشمند برای محققان و مهندسان است که با گراف‌های دانش کار می‌کنند و به دنبال بهبود دقت و کارایی سیستم‌های خود هستند. دسترسی به کد و مدل‌های پیش‌آموزش‌شده در GitHub، امکان استفاده و گسترش این روش را برای جامعه علمی فراهم می‌کند.