ترجمه فارسی مقاله یادگیری زدایی ماشین در هوش مصنوعی مولد: یک بررسی

چکیده

Generative AI technologies have been deployed in many places, such as (multimodal) large language models and vision generative models. Their remarkable performance should be attributed to massive training data and emergent reasoning abilities. However, the models would memorize and generate sensitive, biased, or dangerous information originated from the training data especially those from web crawl. New machine unlearning (MU) techniques are being developed to reduce or eliminate undesirable knowledge and its effects from the models, because those that were designed for traditional classification tasks could not be applied for Generative AI. We offer a comprehensive survey on many things about MU in Generative AI, such as a new problem formulation, evaluation methods, and a structured discussion on the advantages and limitations of different kinds of MU techniques. It also presents several critical challenges and promising directions in MU research. A curated list of readings can be found: https://github.com/franciscoliu/GenAI-MU-Reading.

چکیده به فارسی (ترجمه ماشینی)

فن آوری های AI تولیدی در بسیاری از مناطق ، مانند مدلهای بزرگ (چند مدلی) زبان و مدلهای تولیدی بینایی مستقر شده اند.عملکرد قابل توجه آنها باید به داده های گسترده آموزش و توانایی های استدلال ظهور نسبت داده شود.با این حال ، این مدل ها اطلاعات حساس ، مغرضانه یا خطرناکی را که از داده های آموزش به ویژه اطلاعات مربوط به خزیدن وب سرچشمه می گیرد ، به خاطر می آورند و تولید می کنند.تکنیک های جدید ناآرام دستگاه (MU) برای کاهش یا از بین بردن دانش نامطلوب و تأثیرات آن از مدل ها تهیه شده است ، زیرا مواردی که برای کارهای طبقه بندی سنتی طراحی شده اند ، نمی توانند برای هوش مصنوعی تولید شوند.ما یک بررسی جامع در مورد بسیاری از موارد در مورد MU در AI تولیدی ، مانند فرمول مشکل جدید ، روش های ارزیابی و بحث ساختاری در مورد مزایا و محدودیت های انواع مختلف تکنیک های MU ارائه می دهیم.همچنین چندین چالش مهم و مسیرهای امیدوارکننده در تحقیقات MU ارائه می دهد.لیستی از خوانش ها را می توان یافت: https://github.com/franciscoliu/genai-mu-reading.