مقاله استنتاج خصوصی در مدل های کوانتیزه شده

چکیده

A typical setup in many machine learning scenarios involves a server that holds a model and a user that possesses data, and the challenge is to perform inference while safeguarding the privacy of both parties. Private Inference has been extensively explored in recent years, mainly from a cryptographic standpoint via techniques like homomorphic encryption and multiparty computation. These approaches often come with high computational overhead and may degrade the accuracy of the model. In our work, we take a different approach inspired by the Private Information Retrieval literature. We view private inference as the task of retrieving inner products of parameter vectors with the data, a fundamental operation in many machine learning models. We introduce schemes that enable such retrieval of inner products for models with quantized (i.e., restricted to a finite set) weights; such models are extensively used in practice due to a wide range of benefits. In addition, our schemes uncover a fundamental tradeoff between user and server privacy. Our information-theoretic approach is applicable to a wide range of problems and robust in privacy guarantees for both the user and the server.

چکیده به فارسی (ترجمه ماشینی)

یک تنظیم معمولی در بسیاری از سناریوهای یادگیری ماشین شامل سرور است که دارای یک مدل و کاربر است که دارای داده است و چالش انجام استنباط در حالی است که از حریم خصوصی هر دو طرف محافظت می کند.استنباط خصوصی در سالهای اخیر به طور گسترده مورد بررسی قرار گرفته است ، عمدتاً از دیدگاه رمزنگاری از طریق تکنیک هایی مانند رمزگذاری همرفومورفیک و محاسبات چند حزبی.این رویکردها اغلب با سربار محاسباتی بالا همراه هستند و ممکن است دقت مدل را کاهش دهد.در کار ما ، ما رویکرد متفاوتی را با الهام از ادبیات بازیابی اطلاعات خصوصی اتخاذ می کنیم.ما استنتاج خصوصی را به عنوان وظیفه بازیابی محصولات داخلی بردارهای پارامتر با داده ها ، یک عمل اساسی در بسیاری از مدلهای یادگیری ماشین می بینیم.ما طرح هایی را معرفی می کنیم که امکان بازیابی محصولات داخلی را برای مدل هایی با وزن کم اندازه (یعنی محدود به یک مجموعه محدود) فراهم می کند.چنین مدلهایی به دلیل طیف گسترده ای از مزایا در عمل به طور گسترده ای مورد استفاده قرار می گیرند.علاوه بر این ، طرح های ما از تجارت اساسی بین حریم شخصی کاربر و سرور پرده برداشت.رویکرد نظری اطلاعات ما برای طیف گسترده ای از مشکلات و در تضمین های حریم خصوصی برای کاربر و سرور قابل استفاده است.