Multi-Agent Reinforcement Learning (MARL) is susceptible to Adversarial Machine Learning (AML) attacks. Execution-time AML attacks against MARL are complex due to effects that propagate across time and between agents. To understand the interaction between AML and MARL, this survey covers attacks and defences for MARL, Multi-Agent Learning (MAL), and Deep Reinforcement Learning (DRL). This survey proposes a novel perspective on AML attacks based on attack vectors. This survey also proposes a framework that addresses gaps in current modelling frameworks and enables the comparison of different attacks against MARL. Lastly, the survey identifies knowledge gaps and future avenues of research.

中文翻译：

---

多智能体强化学习中的对抗性机器学习攻击和防御


多代理强化学习 （MARL） 容易受到对抗性机器学习 （AML） 攻击。针对 MARL 的执行时 AML 攻击非常复杂，因为其影响会随时间传播并在代理之间传播。为了了解 AML 和 MARL 之间的相互作用，本调查涵盖了 MARL、多智能体学习 （MAL） 和深度强化学习 （DRL） 的攻击和防御。本调查提出了一种基于攻击媒介的 AML 攻击的新视角。该调查还提出了一个框架，该框架解决了当前建模框架中的差距，并能够比较针对 MARL 的不同攻击。最后，该调查确定了知识差距和未来的研究途径。