지능형 자율 시스템(IASs)은 자율 주행 차량, 드론 및 로봇 플랫폼을 포함하며, 운송에서 국방에 이르기까지 여러 분야에서 혁신을 가져왔습니다. 인공지능(AI) 기술을 활용하여 이들 시스템은 데이터 기반 학습 패러다임, 통합 아키텍처 및 적응형 의사결정 등의 특성을 보입니다. 그러나 이러한 새로운 능력은 데이터로 인한 편향, 제한된 설명 가능성 및 적대적 교란 공격에 대한 취약성과 같은 고유한 실패 과제를 동반합니다. 이러한 특성은 시스템이 동적이고 안전이 중요한 환경에서 신뢰성 있게 작동할 수 있도록 더 높은 신뢰성을 요구합니다. 본 논문은 정확성, 일반화 능력, 견고성 및 설명 가능성 등 네 가지 상호 연관된 차원에서 지능형 자율 시스템 신뢰성 공학의 최신 발전을 체계적으로 검토합니다. 우리는 머신러닝, 인공지능 및 신뢰성 분야의 학제간 성과를 바탕으로 다중 센서 융합, 메타 학습, 적대적 훈련 및 사전 설명 가능성 제약 등의 방법을 실제 배치 실증 데이터와 함께 조사했습니다. 주요 결론은 지능형 자율 시스템의 취약성 감소에 상당한 진전이 있었음을 보여주지만, 성능과 신뢰성 간의 균형, 극한 조건에서의 성능 저하 및 확장성 제한과 같은 지속적인 도전 과제가 널리 적용되는 것을 저해하고 있음을 지적합니다. 우리는 향후 연구가 혼합 프레임워크, 인과 추론 및 경량 모델에 집중하여 고신뢰성 지능형 자율 시스템 구현을 촉진할 것임을 제안합니다. 이론적 기반과 공학적 실천을 연결함으로써 본 논문은 안전성, 효율성 및 사회복지를 중심으로 신뢰할 수 있고 신뢰받는 자율 시스템 개발을 위한 포괄적인 기술 로드맵을 제공합니다.

자율 시스템;신뢰성 공학;인공지능