知能自律システム（IASs）は、自動運転車、ドローン、およびロボットプラットフォームを含み、輸送から防衛までの複数の分野を根本的に変革しました。人工知能（AI）技術を活用することで、これらのシステムはデータ駆動の学習パラダイム、統合アーキテクチャ、および適応的意思決定といった特徴を示します。しかし、これらの新しい能力は、データによるバイアス、説明可能性の制限、敵対的摂動攻撃に対する脆弱性など、独特の失敗課題ももたらします。これらの特性は、安全に関わる動的な環境で信頼性高く動作するために、システムのより高い信頼性を求めます。本稿では、正確性、汎化能力、頑健性、説明可能性という4つの相互関連する側面から、知能自律システムの信頼性工学の最新動向を体系的に概説します。機械学習、人工知能、信頼性分野の学際的成果を取り入れ、多センサー融合、メタラーニング、敵対的学習、および事前の説明可能性制約などの手法を、実際の展開における実証データとともに検討しました。主な結論は、知能自律システムの脆弱性低減に有意な進展があった一方で、性能と信頼性のトレードオフ、極端な条件下での性能劣化、拡張性の制約などの継続的課題が、その広範な適用を妨げていることを示しています。今後の研究は、ハイブリッドフレームワーク、因果推論、軽量モデルに重点を置き、高信頼知能自律システムの実現を促進すると提案します。理論基盤と工学的実践を結びつけることで、本稿は安全性、効率性、社会福祉を中心に据えた信頼性の高い信頼できる自律システムの開発に向けた包括的な技術ロードマップを提供します。

自律システム;信頼性工学;人工知能