ترجمه فارسی مقاله درباره محدودیت‌ها و چشم‌اندازهای حذف یادگیری ماشینی برای هوش مصنوعی مولد

چکیده

Generative AI (GenAI), which aims to synthesize realistic and diverse data samples from latent variables or other data modalities, has achieved remarkable results in various domains, such as natural language, images, audio, and graphs. However, they also pose challenges and risks to data privacy, security, and ethics. Machine unlearning is the process of removing or weakening the influence of specific data samples or features from a trained model, without affecting its performance on other data or tasks. While machine unlearning has shown significant efficacy in traditional machine learning tasks, it is still unclear if it could help GenAI become safer and aligned with human desire. To this end, this position paper provides an in-depth discussion of the machine unlearning approaches for GenAI. Firstly, we formulate the problem of machine unlearning tasks on GenAI and introduce the background. Subsequently, we systematically examine the limitations of machine unlearning on GenAI models by focusing on the two representative branches: LLMs and image generative (diffusion) models. Finally, we provide our prospects mainly from three aspects: benchmark, evaluation metrics, and utility-unlearning trade-off, and conscientiously advocate for the future development of this field.

چکیده به فارسی (ترجمه ماشینی)

AI تولید کننده (Genai) ، که هدف آن ترکیب نمونه های داده های واقع گرایانه و متنوع از متغیرهای نهفته یا سایر روش های داده است ، در حوزه های مختلف مانند زبان طبیعی ، تصاویر ، صدا و نمودارها به نتایج قابل توجهی رسیده است.با این حال ، آنها همچنین چالش ها و خطرات را برای حفظ حریم خصوصی داده ها ، امنیت و اخلاق به وجود می آورند.فرآورده کردن دستگاه فرآیند حذف یا تضعیف تأثیر نمونه های داده خاص یا ویژگی های یک مدل آموزش دیده است ، بدون اینکه بر عملکرد آن بر روی سایر داده ها یا وظایف تأثیر بگذارد.در حالی که فرآورده های دستگاه در کارهای سنتی یادگیری ماشین اثربخشی قابل توجهی نشان داده است ، هنوز مشخص نیست که آیا می تواند به Genai کمک کند تا ایمن تر و هماهنگ با میل انسان باشد.برای این منظور ، این مقاله موقعیت بحث و گفتگوی عمیق در مورد رویکردهای موجود در دستگاه برای Genai ارائه می دهد.در مرحله اول ، ما مشکل کارهای غیرقانونی دستگاه را بر روی Genai تدوین می کنیم و زمینه را معرفی می کنیم.پس از آن ، ما به طور سیستماتیک محدودیت های موجود در دستگاه های Genai را با تمرکز روی دو شاخه نماینده بررسی می کنیم: LLMS و مدل های تولید کننده تصویر (انتشار).سرانجام ، ما چشم اندازهای خود را عمدتاً از سه جنبه ارائه می دهیم: معیار ، معیارهای ارزیابی و تجارت-عدم انتخاب ابزار و وجدان برای توسعه آینده این زمینه.