در دنیای امروز، گراف‌های دانش (Knowledge Graphs) نقش حیاتی در بسیاری از کاربردهای هوش مصنوعی ایفا می‌کنند. این گراف‌ها، ساختارهای داده‌ای هستند که اطلاعات را به صورت شبکه‌ای از موجودیت‌ها و روابط بین آن‌ها نمایش می‌دهند. از جستجوی معنایی در موتورهای جستجو گرفته تا سیستم‌های توصیه‌گر، کاربردهای متنوعی از گراف‌های دانش به چشم می‌خورد. تعبیه‌های گراف دانش (Knowledge Graph Embeddings یا KGEs) روش‌هایی هستند که این گراف‌ها را به فضاهای برداری تبدیل می‌کنند تا بتوان از آن‌ها در الگوریتم‌های یادگیری ماشین استفاده کرد. با این حال، آسیب‌پذیری این تعبیه‌ها در برابر حملات مسموم‌سازی (Data Poisoning Attacks) به یک نگرانی جدی تبدیل شده است.

مقاله “مسموم‌سازی تعبیه‌های گراف دانش از طریق الگوهای استنتاج رابطه” توسط پرو بهاردواج (Peru Bhardwaj)، جان کلهر (John Kelleher)، لوکا کاستابلو (Luca Costabello) و دکلان او’سالیوان (Declan O’Sullivan) به رشته تحریر درآمده است. این محققان با تخصص در زمینه‌های یادگیری ماشین، هوش مصنوعی و پردازش زبان‌های طبیعی، به بررسی چگونگی آسیب‌پذیری مدل‌های تعبیه گراف دانش در برابر حملاتی می‌پردازند که هدف آن‌ها دستکاری و تخریب عملکرد این مدل‌ها است.

زمینه تحقیقاتی این مقاله، در تقاطع امنیت سایبری و یادگیری ماشین قرار دارد. هدف اصلی، شناسایی و درک مکانیسم‌های آسیب‌پذیری مدل‌های KGE در برابر حملات مسموم‌سازی داده و ارائه روش‌هایی برای مقابله با این تهدیدات است.

این مقاله به بررسی مشکل تولید حملات مسموم‌سازی داده علیه مدل‌های تعبیه گراف دانش (KGE) برای پیش‌بینی پیوند (Link Prediction) در گراف‌های دانش می‌پردازد. هدف این حملات، کاهش دقت و کارایی مدل در پیش‌بینی روابط صحیح بین موجودیت‌ها است. محققان در این مقاله، از توانایی استقرایی (Inductive Abilities) مدل‌های KGE بهره می‌برند که از طریق الگوهای رابطه‌ای مانند تقارن (Symmetry)، وارونگی (Inversion) و ترکیب (Composition) در گراف دانش به دست می‌آید.

به طور خاص، برای کاهش اطمینان مدل در پیش‌بینی حقایق هدف (Target Facts)، پیشنهاد می‌شود که اطمینان مدل در پیش‌بینی مجموعه‌ای از حقایق انحرافی (Decoy Facts) افزایش یابد. بدین منظور، اضافات خصمانه (Adversarial Additions) طراحی می‌شوند که می‌توانند از طریق الگوهای استنتاج مختلف، اطمینان مدل را در پیش‌بینی حقایق انحرافی بهبود بخشند. به عبارت دیگر، با تزریق اطلاعات نادرست به گراف دانش، سعی می‌شود مدل به اشتباه روابط نادرست را معتبر بداند و در نتیجه، پیش‌بینی روابط صحیح دچار اختلال شود.

نتایج آزمایش‌ها نشان می‌دهد که حملات مسموم‌سازی پیشنهادی، عملکرد بهتری نسبت به روش‌های پایه (Baselines) در چهار مدل KGE و بر روی دو مجموعه داده عمومی در دسترس دارند. همچنین، مشخص شده است که حملات مبتنی بر الگوی تقارن، در تمام ترکیبات مدل-مجموعه داده تعمیم می‌یابند که نشان‌دهنده حساسیت مدل‌های KGE به این الگو است.

به زبان ساده، فرض کنید یک گراف دانش روابط بین افراد و سازمان‌ها را نشان می‌دهد. یک حمله مسموم‌سازی می‌تواند با افزودن روابط نادرست (مثلاً نسبت دادن یک وابستگی دروغین به یک سازمان) باعث شود که مدل‌های KGE در پیش‌بینی روابط واقعی بین افراد و سازمان‌ها دچار اشتباه شوند.

روش‌شناسی تحقیق در این مقاله، ترکیبی از تحلیل نظری و آزمایش‌های تجربی است. محققان با بررسی الگوهای استنتاج رابطه در گراف‌های دانش، یک چارچوب نظری برای طراحی حملات مسموم‌سازی ارائه می‌دهند. سپس، با پیاده‌سازی این حملات بر روی مدل‌های KGE مختلف و ارزیابی عملکرد آن‌ها بر روی مجموعه‌های داده واقعی، کارایی روش پیشنهادی خود را به اثبات می‌رسانند.

مراحل اصلی روش‌شناسی به شرح زیر است:

• شناسایی الگوهای استنتاج رابطه: محققان ابتدا الگوهای رایج استنتاج رابطه مانند تقارن، وارونگی و ترکیب را در گراف‌های دانش شناسایی می‌کنند. به عنوان مثال، اگر رابطه “X، پدر Y است” وجود داشته باشد، انتظار می‌رود رابطه “Y، فرزند X است” نیز وجود داشته باشد (وارونگی).
• طراحی حملات مسموم‌سازی: بر اساس الگوهای شناسایی شده، حملات مسموم‌سازی طراحی می‌شوند که هدف آن‌ها افزایش اطمینان مدل در پیش‌بینی حقایق انحرافی است. این کار با افزودن روابط نادرست به گراف دانش انجام می‌شود.
• پیاده‌سازی و ارزیابی: حملات طراحی شده بر روی مدل‌های KGE مختلف پیاده‌سازی می‌شوند و عملکرد آن‌ها با استفاده از معیارهای ارزیابی استاندارد مانند دقت و صحت، اندازه‌گیری می‌شود. عملکرد حملات پیشنهادی با روش‌های پایه مقایسه می‌شود تا اثربخشی آن‌ها مشخص شود.

مثال: فرض کنید می‌خواهیم یک مدل KGE را با استفاده از الگوی تقارن مسموم کنیم. اگر مدل بداند که “A دوست B است”، ما روابط نادرستی مانند “C دوست D است” را به گراف دانش اضافه می‌کنیم. هدف این است که مدل، این روابط نادرست را نیز معتبر بداند و در نتیجه، در پیش‌بینی روابط واقعی دچار اشتباه شود.

یافته‌های کلیدی این تحقیق عبارتند از:

• حملات مسموم‌سازی پیشنهادی، عملکرد بهتری نسبت به روش‌های پایه در تخریب عملکرد مدل‌های KGE دارند.
• حملات مبتنی بر الگوی تقارن، در تمام ترکیبات مدل-مجموعه داده تعمیم می‌یابند، که نشان‌دهنده حساسیت مدل‌های KGE به این الگو است. این بدان معناست که این نوع حملات به طور خاص مؤثر هستند.
• میزان آسیب‌پذیری مدل‌های KGE به نوع مدل و مجموعه داده مورد استفاده بستگی دارد.
• با افزودن تعداد کمی از روابط نادرست به گراف دانش، می‌توان به طور قابل توجهی عملکرد مدل‌های KGE را تخریب کرد. این نشان می‌دهد که این مدل‌ها به حملات مسموم‌سازی بسیار حساس هستند.

نکته مهم: حساسیت مدل‌های KGE به الگوی تقارن می‌تواند ناشی از این واقعیت باشد که بسیاری از روابط در دنیای واقعی متقارن هستند (مانند روابط دوستی). بنابراین، مدل‌ها به طور طبیعی به این الگو وزن بیشتری می‌دهند و در نتیجه، در برابر حملاتی که از این الگو استفاده می‌کنند، آسیب‌پذیرتر می‌شوند.

این تحقیق دارای کاربردهای مهمی در زمینه امنیت سیستم‌های مبتنی بر گراف دانش است. با درک بهتر مکانیسم‌های آسیب‌پذیری مدل‌های KGE در برابر حملات مسموم‌سازی، می‌توان روش‌هایی برای محافظت از این مدل‌ها و جلوگیری از دستکاری آن‌ها توسعه داد.

برخی از دستاوردهای این تحقیق عبارتند از:

• ارائه یک چارچوب نظری برای طراحی حملات مسموم‌سازی علیه مدل‌های KGE.
• شناسایی الگوهای استنتاج رابطه به عنوان نقاط ضعف کلیدی در مدل‌های KGE.
• ارائه روش‌های مؤثر برای تخریب عملکرد مدل‌های KGE از طریق حملات مسموم‌سازی.
• افزایش آگاهی در مورد آسیب‌پذیری سیستم‌های مبتنی بر گراف دانش در برابر حملات سایبری.

به عنوان مثال، نتایج این تحقیق می‌تواند در توسعه سیستم‌های تشخیص نفوذ برای گراف‌های دانش مورد استفاده قرار گیرد. این سیستم‌ها می‌توانند به طور خودکار حملات مسموم‌سازی را شناسایی و از آن‌ها جلوگیری کنند.

مقاله “مسموم‌سازی تعبیه‌های گراف دانش از طریق الگوهای استنتاج رابطه” به بررسی یک مشکل مهم و رو به رشد در زمینه امنیت سیستم‌های مبتنی بر گراف دانش می‌پردازد. این تحقیق نشان می‌دهد که مدل‌های KGE در برابر حملات مسموم‌سازی آسیب‌پذیر هستند و می‌توان با استفاده از الگوهای استنتاج رابطه، عملکرد آن‌ها را به طور قابل توجهی تخریب کرد.

نتایج این تحقیق، اهمیت توجه به مسائل امنیتی در طراحی و استقرار سیستم‌های مبتنی بر گراف دانش را نشان می‌دهد. در آینده، تحقیقات بیشتری باید بر روی توسعه روش‌های مقاوم‌سازی (Robustification) مدل‌های KGE در برابر حملات مسموم‌سازی متمرکز شود. این شامل توسعه الگوریتم‌های یادگیری مقاوم‌تر، استفاده از روش‌های تشخیص نفوذ و طراحی مکانیسم‌های دفاعی در برابر حملات سایبری است.