ترجمه فارسی مقاله ساخت یک مدل گاردریل مختص دامنه در محیط عملیاتی

چکیده

Generative AI holds the promise of enabling a range of sought-after capabilities and revolutionizing workflows in various consumer and enterprise verticals. However, putting a model in production involves much more than just generating an output. It involves ensuring the model is reliable, safe, performant and also adheres to the policy of operation in a particular domain. Guardrails as a necessity for models has evolved around the need to enforce appropriate behavior of models, especially when they are in production. In this paper, we use education as a use case, given its stringent requirements of the appropriateness of content in the domain, to demonstrate how a guardrail model can be trained and deployed in production. Specifically, we describe our experience in building a production-grade guardrail model for a K-12 educational platform. We begin by formulating the requirements for deployment to this sensitive domain. We then describe the training and benchmarking of our domain-specific guardrail model, which outperforms competing open- and closed- instruction-tuned models of similar and larger size, on proprietary education-related benchmarks and public benchmarks related to general aspects of safety. Finally, we detail the choices we made on architecture and the optimizations for deploying this service in production; these range across the stack from the hardware infrastructure to the serving layer to language model inference optimizations. We hope this paper will be instructive to other practitioners looking to create production-grade domain-specific services based on generative AI and large language models.

چکیده به فارسی (ترجمه ماشینی)

AI تولیدی نوید را برای فعال کردن طیف وسیعی از قابلیت های مورد نظر و انقلابی در گردش کار در عمودی های مختلف مصرف کننده و بنگاه اقتصادی در اختیار دارد.با این حال ، قرار دادن یک مدل در تولید بسیار بیشتر از تولید یک خروجی است.این شامل اطمینان از این مدل قابل اعتماد ، ایمن ، عملکرد و همچنین پیروی از سیاست عملکرد در یک حوزه خاص است.GuardRails به عنوان یک ضرورت برای مدل ها حول نیاز به اجرای رفتار مناسب مدل ها ، به ویژه هنگامی که آنها در تولید هستند ، تکامل یافته است.در این مقاله ، ما با توجه به نیازهای دقیق آن از مناسب بودن محتوا در دامنه ، از آموزش به عنوان یک مورد استفاده استفاده می کنیم تا نشان دهیم که چگونه یک مدل نگهبان می تواند در تولید آموزش داده و مستقر شود.به طور خاص ، ما تجربه خود را در ساخت یک مدل GuardRail درجه تولید برای یک بستر آموزشی K-12 شرح می دهیم.ما با تدوین الزامات استقرار در این حوزه حساس شروع می کنیم.ما سپس آموزش و معیار مدل GuardRail خاص دامنه خود را توصیف می کنیم ، که از مدلهای تنظیم شده با آموزش باز و بسته با اندازه مشابه و بزرگتر ، بر روی معیارهای مربوط به آموزش اختصاصی و معیارهای عمومی مربوط به جنبه های کلی ایمنی ، بهتر است.سرانجام ، ما انتخاب هایی را که در مورد معماری و بهینه سازی برای استقرار این سرویس در تولید انجام دادیم ، جزئیات می دهیم.این موارد از زیرساخت های سخت افزاری گرفته تا لایه خدمت به بهینه سازی استنتاج مدل زبان در سراسر پشته است.ما امیدواریم که این مقاله برای سایر پزشکان که به دنبال ایجاد خدمات خاص دامنه تولید بر اساس مدلهای تولید کننده هوش مصنوعی و زبان بزرگ هستند ، آموزنده باشد.