人工知能（AI）応用の潜在力が継続的に拡大する中で、依然として核心的な問題が解決されていない：ユーザーはAI駆動技術を信頼し、採用するか？AIの発展見通しはその信頼性の認識に大きく依存しているため、AIの信頼性および信頼性の担保は、その実際の広範な応用を推進する上で基盤的な役割を果たす。しかし、信頼性工学とリスク管理分野の理論、数学モデルおよび方法はAI技術の急速な発展に追いついていない。このため、医療、航空、金融、原子力発電所などの重要な意思決定領域において、信頼性や信頼といった核心要素の欠如により、AIモデルは規制承認の障害や普及の制限という重大な課題に直面している。これらの安全クリティカルな応用においてAI自動化意思決定の潜在力を十分に発揮するには、期待値管理を通じて適切な信頼を構築する必要がある――すなわちAIの実際の能力の境界を正確に評価すること。本稿は教師あり学習パラダイムにおけるAIシステムの機能的信頼性に焦点を当て、まずAIシステムが従来のシステムと異なる固有特性を分析し、専用の信頼性理論とリスク管理手法の開発の必要性を論じる；次に、信頼性の高いAIを実現するための5つの主要な工学的メカニズムを体系的に整理する：モデルベースおよびモデル非依存の適合的予測に基づく不確実性定量化（UQ）、故障予測、棄権学習、形式的検証、知識拡張AI；最後にAIシステム信頼性工学および信頼保証分野における複数の研究課題と機会を提示する。本研究はAIシステムの信頼性問題の理解を深め、リスクおよび信頼性工学などの分野の研究者がこのますます重要となる研究分野への参画を促進することを目的とする。

深層学習; 信頼性工学; リスク管理; 信頼できる人工知能; AIシステム