인공지능(AI) 응용 잠재력이 지속적으로 확장됨에 따라 핵심적인 문제는 여전히 해결되지 않았다: 사용자가 AI 기반 기술을 신뢰하고 채택할 것인가? AI의 발전 전망은 신뢰도 인식에 크게 의존하기 때문에 AI의 신뢰성과 신뢰를 보장하는 것은 실제적이고 광범위한 응용을 추진하는 데 근본적인 역할을 한다. 그러나 신뢰성 공학 및 위험 관리 분야의 이론, 수학 모델 및 방법이 AI 기술의 급속한 발전을 따라가지 못하고 있다. 이로 인해 의료, 항공, 금융, 원자력 발전소 등과 같은 핵심 의사결정 영역에서 신뢰성 및 신뢰와 같은 핵심 요소 결여로 인해 AI 모델은 규제 승인 지연 및 보급 제한이라는 중대한 장벽에 직면해 있다. 이러한 안전 핵심 응용 분야에서 AI 자동화 의사결정의 잠재력을 충분히 발휘하려면 기대 관리를 통해 적절한 신뢰를 구축해야 한다—즉 AI의 실제 능력 한계를 정확히 평가하는 것이다. 본 논문은 감독 학습 패러다임하 AI 시스템의 기능적 신뢰성에 초점을 맞추어 먼저 AI 시스템이 전통적 시스템과 구별되는 고유 특성을 분석하고 전용 신뢰성 이론 및 위험 관리 방법 개발의 필요성을 논증한다; 이어서 신뢰할 수 있고 신뢰받는 AI를 실현하기 위한 현재의 다섯 가지 공학 메커니즘을 체계적으로 정리한다: 모델 기반 및 모델 비의존 conformal 예측에 기반한 불확실성 정량화(UQ), 고장 예측, 포기 학습, 형식 검증 및 지식 증강 AI; 마지막으로 AI 시스템 신뢰성 공학 및 신뢰 보장 분야의 다수 연구 도전과 기회를 제시한다. 본 연구는 AI 시스템 신뢰성 문제에 대한 이해를 심화하고 위험 및 신뢰성 공학 등 분야 학자들의 적극적 참여를 촉진하는 데 목적이 있다.

딥러닝; 신뢰성 공학; 위험 관리; 신뢰할 수 있는 인공지능; AI 시스템