Системы коллективных роботов и интеллектуальные агентские системы все больше интегрируются в реальные приложения, способствуя прорывам в автономном управлении движением, военном наблюдении и сельскохозяйственном мониторинге. Однако их растущая интеграция в критическую инфраструктуру вызывает серьезные опасения по поводу безопасности и конфиденциальности. Несмотря на то, что обе системы построены на общих принципах распределенного интеллекта и системной архитектуры, отсутствует всестороннее понимание их угроз безопасности и механизмов защиты. В данной статье представлен первый систематический обзор, охватывающий обе области, исследующий уязвимости безопасности и соответствующие меры защиты. Мы разделяем угрозы на три ключевых уровня: физический, коммуникационный и прикладной, и проводим глубокий анализ векторов атак и соответствующих стратегий смягчения. Кроме того, мы рассматриваем сходства и различия в стратегиях безопасности коллективных робототехнических систем и интеллектуальных агентских систем, выявляя возможности для переноса ценных идей безопасности между ними. Результаты исследования подчеркивают ряд ключевых исследовательских вызовов, включая требования к связи в реальном времени, компромиссы между безопасностью, конфиденциальностью и эффективностью, а также вызовы, введенные крупными языковыми моделями. Наконец, обзор будущих направлений исследований направлен на продвижение развития безопасных и надежных интеллектуальных систем.

Системы коллективных роботов;Интеллектуальные агентские системы;Безопасность;Конфиденциальность;Воплощенный интеллект;Крупные языковые модели