Sistemas de robôs em enxame e sistemas de agentes de inteligência artificial estão cada vez mais integrados em aplicações do mundo real, impulsionando avanços no controle autônomo de tráfego, vigilância militar e monitoramento agrícola. No entanto, seu crescente emprego em infraestruturas críticas suscita sérias preocupações de segurança e privacidade. Embora ambos os sistemas sejam baseados em princípios comuns de inteligência distribuída e arquitetura de sistemas, ainda falta uma compreensão abrangente de suas ameaças à segurança e dos mecanismos de defesa. Este artigo apresenta a primeira revisão sistemática que examina simultaneamente essas duas áreas, explorando suas vulnerabilidades de segurança e as medidas de defesa correspondentes. Dividimos as ameaças em três níveis-chave: nível físico, nível de comunicação e nível de aplicação, e realizamos uma análise aprofundada dos vetores de ataque e das estratégias de mitigação correspondentes. Além disso, exploramos as semelhanças e diferenças nas estratégias de segurança entre sistemas de robôs em enxame e sistemas de agentes de IA, identificando oportunidades para transferência de valiosas percepções de segurança entre ambos. Os resultados destacam vários desafios-chave de pesquisa, incluindo demandas de comunicação em tempo real, compensações entre segurança, privacidade e eficiência, e os desafios introduzidos pelos grandes modelos de linguagem. Por fim, ao delinear futuras direções de pesquisa, este estudo visa promover o desenvolvimento de sistemas inteligentes seguros e confiáveis.

Sistemas de robôs em enxame;Sistemas de agentes de inteligência artificial;Segurança;Privacidade;Inteligência incorporada;Grandes modelos de linguagem