ترجمه فارسی مقاله در مورد سختی ارزیابی سیاست چند عامل غیر متمرکز تحت حملات بیزانس

چکیده

In this paper, we study a fully-decentralized multi-agent policy evaluation problem, which is an important sub-problem in cooperative multi-agent reinforcement learning, in the presence of up to $f$ faulty agents. In particular, we focus on the so-called Byzantine faulty model with model poisoning setting. In general, policy evaluation is to evaluate the value function of any given policy. In cooperative multi-agent system, the system-wide rewards are usually modeled as the uniform average of rewards from all agents. We investigate the multi-agent policy evaluation problem in the presence of Byzantine agents, particularly in the setting of heterogeneous local rewards. Ideally, the goal of the agents is to evaluate the accumulated system-wide rewards, which are uniform average of rewards of the normal agents for a given policy. It means that all agents agree upon common values (the consensus part) and furthermore, the consensus values are the value functions (the convergence part). However, we prove that this goal is not achievable. Instead, we consider a relaxed version of the problem, where the goal of the agents is to evaluate accumulated system-wide reward, which is an appropriately weighted average reward of the normal agents. We further prove that there is no correct algorithm that can guarantee that the total number of positive weights exceeds $|\mathcal{N}|-f $, where $|\mathcal{N}|$ is the number of normal agents. Towards the end, we propose a Byzantine-tolerant decentralized temporal difference algorithm that can guarantee asymptotic consensus under scalar function approximation. We then empirically test the effective of the proposed algorithm.

چکیده به فارسی (ترجمه ماشینی)

در این مقاله ، ما یک مشکل ارزیابی سیاست چند عامل کاملاً غیرقانونی ، که یک مشکل اساسی در یادگیری تقویت کننده چند عامل تعاونی است ، با حضور تا حداکثر عوامل معیوب F $ F را بررسی می کنیم.به طور خاص ، ما بر روی به اصطلاح مدل معیوب بیزانس با تنظیم مسمومیت با مدل تمرکز می کنیم.به طور کلی ، ارزیابی سیاست برای ارزیابی عملکرد ارزش هر خط مشی معین است.در سیستم تعاونی چند عامل ، پاداش های گسترده سیستم معمولاً به عنوان میانگین یکنواخت پاداش از همه عوامل مدل می شوند.ما مسئله ارزیابی سیاست چند عامل را در حضور عوامل بیزانس ، به ویژه در تنظیم پاداش های محلی ناهمگن بررسی می کنیم.در حالت ایده آل ، هدف عوامل ارزیابی پاداش های گسترده سیستم انباشته شده ، که میانگین یکنواخت پاداش عوامل عادی برای یک سیاست معین است.این بدان معناست که همه عوامل با مقادیر مشترک (قسمت اجماع) موافق هستند و علاوه بر این ، مقادیر اجماع توابع ارزش (قسمت همگرایی) هستند.با این حال ، ما ثابت می کنیم که این هدف قابل دستیابی نیست.درعوض ، ما یک نسخه آرام از مشکل را در نظر می گیریم ، جایی که هدف نمایندگان ارزیابی پاداش انباشته شده در سطح سیستم است که یک پاداش متوسط ​​وزنی مناسب از عوامل عادی است.ما بیشتر ثابت می کنیم که هیچ الگوریتم صحیحی وجود ندارد که می تواند تضمین کند که تعداد کل وزن های مثبت از $ | \ Mathcal {n} | -f $ ، که در آن $ | \ Mathcal {n} | $ تعداد عوامل عادی است.در پایان ، ما یک الگوریتم اختلاف زمانی غیر متمرکز تحمل به بیزانس را پیشنهاد می کنیم که می تواند اجماع بدون علامت را تحت تقریب عملکرد مقیاس تضمین کند.سپس ما به صورت تجربی مؤثر الگوریتم پیشنهادی را آزمایش می کنیم.