Robust Multiagent Reinforcement Learning for UAV Systems: Countering Byzantine Attacks

Abstract

Multiple unmanned aerial vehicle (multi-UAV) systems have gained significant attention in applications, such as aerial surveillance and search and rescue missions. With the recent development of state-of-the-art multiagent reinforcement learning (MARL) algorithms, it is possible to train multi-UAV systems in collaborative and competitive environments. However, the inherent vulnerabilities of multiagent systems pose significant privacy and security risks when deploying general and conventional MARL algorithms. The presence of even a single Byzantine adversary within the system can severely degrade the learning performance of UAV agents. This work proposes a Byzantine-resilient MARL algorithm that leverages a combination of geometric median consensus and a robust state update model to mitigate, or even eliminate, the influence of Byzantine attacks. To validate its effectiveness and feasibility, the authors include a multi-UAV threat model, provide a guarantee of robustness, and investigate key attack parameters for multiple UAV navigation scenarios. Results from the experiments show that the average rewards during a Byzantine attack increased by up to 60% for the cooperative navigation scenario compared with conventional MARL techniques. The learning rewards generated by the baseline algorithms could not converge during training under these attacks, while the proposed method effectively converged to an optimal solution, proving its viability and correctness.

Імеса-Аналіз Кібербезпеки Систем Багатофункціональних Флотів Бпла При Комбінованих Атаках: Базові Моделі Та Вибір Контрзаходів

“…В [6] розглянуто аспекти забезпечення кібербезпеки під час використання БПЛА у сучасних містах в мирний і воєнний час. Важливим є необхідність розробки стійких методів навчання для інтелектуальних систем БПЛА з урахуванням атак на їх окремі компоненти [7]. Аналіз ризиків у кіберпросторі для систем багатофункціональних флотів БПЛА надано у [4], де запропоновано концептуальну модель та метод аналізу на основі відомої техніки Intrusion Modes and Effects Criticality Analysis (IMECA) [3] для аналізу кібербезпеки і управління ризиками.…”