Fiabilidad y seguridad: desde robots en enjambre hasta agentes de inteligencia artificial

Yuping Yan ,  

Yuhan Xie ,  

Junfeng Tang ,  

Yuanshuai Li ,  

Yaochu Jin ,  

摘要

Los sistemas de robots en enjambre y los sistemas de agentes de inteligencia artificial se integran cada vez más en aplicaciones del mundo real, impulsando avances en el control autónomo del tráfico, la vigilancia militar y la monitorización agrícola. Sin embargo, su despliegue cada vez más profundo en infraestructuras críticas genera serias preocupaciones de seguridad y privacidad. A pesar de que ambos sistemas se basan en principios comunes de inteligencia distribuida y arquitectura de sistemas, aún falta una comprensión integral de sus amenazas de seguridad y mecanismos de defensa. Este artículo presenta la primera revisión sistemática que examina ambos campos simultáneamente, explorando sus vulnerabilidades de seguridad y las medidas de defensa correspondientes. Dividimos las amenazas en tres niveles clave: física, comunicación y aplicación, y analizamos en profundidad los vectores de ataque y las estrategias de mitigación correspondientes. Además, exploramos las similitudes y diferencias en las estrategias de seguridad entre los sistemas de robots en enjambre y los sistemas de agentes de IA, identificando oportunidades para transferir conocimientos valiosos de seguridad entre ambos. Los resultados destacan varios desafíos clave de investigación, incluyendo las demandas de comunicación en tiempo real, los compromisos entre seguridad, privacidad y eficiencia, y los desafíos introducidos por los grandes modelos de lenguaje. Finalmente, al esbozar futuras direcciones de investigación, este estudio pretende impulsar el desarrollo de sistemas inteligentes seguros y confiables.

关键词

Sistemas de robots en enjambre;Sistemas de agentes de inteligencia artificial;Seguridad;Privacidad;Inteligencia incorporada;Grandes modelos de lenguaje

阅读全文