ترجمه فارسی مقاله حفظ حریم خصوصی در مدل‌های زبانی بزرگ: بررسی تهدیدها و راه‌حل‌های فعلی

چکیده

Large Language Models (LLMs) represent a significant advancement in artificial intelligence, finding applications across various domains. However, their reliance on massive internet-sourced datasets for training brings notable privacy issues, which are exacerbated in critical domains (e.g., healthcare). Moreover, certain application-specific scenarios may require fine-tuning these models on private data. This survey critically examines the privacy threats associated with LLMs, emphasizing the potential for these models to memorize and inadvertently reveal sensitive information. We explore current threats by reviewing privacy attacks on LLMs and propose comprehensive solutions for integrating privacy mechanisms throughout the entire learning pipeline. These solutions range from anonymizing training datasets to implementing differential privacy during training or inference and machine unlearning after training. Our comprehensive review of existing literature highlights ongoing challenges, available tools, and future directions for preserving privacy in LLMs. This work aims to guide the development of more secure and trustworthy AI systems by providing a thorough understanding of privacy preservation methods and their effectiveness in mitigating risks.

چکیده به فارسی (ترجمه ماشینی)

مدل های بزرگ زبان (LLM) نشان دهنده پیشرفت قابل توجهی در هوش مصنوعی ، یافتن برنامه های کاربردی در حوزه های مختلف است.با این حال ، اعتماد آنها به مجموعه داده های گسترده منبع اینترنت برای آموزش ، مسائل مربوط به حریم خصوصی قابل توجه را به همراه دارد ، که در حوزه های بحرانی تشدید می شوند (به عنوان مثال ، مراقبت های بهداشتی).علاوه بر این ، برخی از سناریوهای خاص برنامه ممکن است نیاز به تنظیم دقیق این مدل ها بر روی داده های خصوصی داشته باشند.این نظرسنجی به طور انتقادی تهدیدات حریم خصوصی مرتبط با LLMS را مورد بررسی قرار می دهد ، و بر پتانسیل این مدل ها برای به خاطر سپردن و سهواً اطلاعات حساس را تأکید می کند.ما با بررسی حملات حریم خصوصی به LLM ها ، تهدیدهای فعلی را بررسی می کنیم و راه حل های جامع برای ادغام مکانیسم های حریم خصوصی در کل خط لوله یادگیری پیشنهاد می کنیم.این راه حل ها از مجموعه داده های آموزش ناشناس گرفته تا اجرای حریم خصوصی دیفرانسیل در حین آموزش یا استنباط و فرآورده شدن دستگاه پس از آموزش است.بررسی جامع ما در مورد ادبیات موجود ، چالش های مداوم ، ابزارهای موجود و مسیرهای آینده را برای حفظ حریم خصوصی در LLM ها برجسته می کند.این کار با هدف هدایت توسعه سیستم های هوش مصنوعی امن تر و قابل اعتماد تر با ارائه درک کامل از روش های حفظ حریم خصوصی و اثربخشی آنها در کاهش خطرات انجام شده است.