ترجمه فارسی مقاله ShieldGemma: مدیریت محتوای مولد هوش مصنوعی مبتنی بر Gemma

چکیده

We present ShieldGemma, a comprehensive suite of LLM-based safety content moderation models built upon Gemma2. These models provide robust, state-of-the-art predictions of safety risks across key harm types (sexually explicit, dangerous content, harassment, hate speech) in both user input and LLM-generated output. By evaluating on both public and internal benchmarks, we demonstrate superior performance compared to existing models, such as Llama Guard (+10.8% AU-PRC on public benchmarks) and WildCard (+4.3%). Additionally, we present a novel LLM-based data curation pipeline, adaptable to a variety of safety-related tasks and beyond. We have shown strong generalization performance for model trained mainly on synthetic data. By releasing ShieldGemma, we provide a valuable resource to the research community, advancing LLM safety and enabling the creation of more effective content moderation solutions for developers.

چکیده به فارسی (ترجمه ماشینی)

ما Shieldgemma را ارائه می دهیم ، مجموعه ای جامع از مدل های اعتدال محتوای ایمنی مبتنی بر LLM که بر روی GEMMA2 ساخته شده است.این مدل ها پیش بینی های قوی و پیشرفته ای از خطرات ایمنی را در انواع آسیب های کلیدی (صریح جنسی ، محتوای خطرناک ، آزار و اذیت ، گفتار نفرت) در ورودی کاربر و خروجی تولید شده LLM ارائه می دهند.با ارزیابی در هر دو معیارهای عمومی و داخلی ، ما عملکرد برتر را در مقایسه با مدلهای موجود ، مانند گارد Llama (8/10 ٪ AU-PRC در معیارهای عمومی) و کارت وحشی (+4.3 ٪) نشان می دهیم.علاوه بر این ، ما یک خط لوله کنترل داده های مبتنی بر LLM جدید ، سازگار با انواع کارهای مرتبط با ایمنی و فراتر از آن ارائه می دهیم.ما عملکرد عمومی سازی قوی را برای مدل آموزش داده شده عمدتا بر روی داده های مصنوعی نشان داده ایم.با آزادسازی Shieldgemma ، ما یک منبع ارزشمند را برای جامعه تحقیقاتی ، پیشبرد ایمنی LLM و امکان ایجاد راه حل های اعتدال مؤثرتر برای توسعه دهندگان فراهم می کنیم.