信頼性と安全性:群体ロボットから人工知能エージェントへ

Yuping Yan ,  

Yuhan Xie ,  

Junfeng Tang ,  

Yuanshuai Li ,  

Yaochu Jin ,  

摘要

群体ロボットシステムと人工知能エージェントシステムは現実世界の応用にますます統合されており、自律交通制御、軍事監視、農業モニタリングなどの分野での突破口を促進しています。しかし、これらのシステムが重要インフラに深く展開されるにつれ、深刻なセキュリティとプライバシーの懸念が生じています。両者は分散知能とシステムアーキテクチャの共通の原則に基づいているにもかかわらず、そのセキュリティ脅威と防御メカニズムに関する包括的な理解はまだ不足しています。本稿は、この二つの分野を同時に検討した初の体系的レビューを提案し、それらのセキュリティの脆弱性と対応する防御策を考察します。脅威を物理層、通信層、アプリケーション層の三つの主要レベルに分類し、攻撃ベクトルと対応する緩和戦略を詳細に分析しました。さらに、群体ロボットシステムと人工知能エージェントシステムのセキュリティ戦略における類似点と相違点を検討し、両者間で価値あるセキュリティ知見を移転する機会を特定しました。研究結果は、リアルタイム通信の要件、安全性、プライバシーと効率性のトレードオフ、大規模言語モデルによってもたらされる課題など、いくつかの重要な研究課題を浮き彫りにしています。最後に、将来の研究方向を概説することで、安全で信頼性の高い知能システムの発展を促進することを目的としています。

关键词

群体ロボットシステム;人工知能エージェントシステム;セキュリティ;プライバシー;具身知能;大規模言語モデル

阅读全文