Avec l'expansion continue du potentiel des applications de l'intelligence artificielle (IA), une question centrale demeure non résolue : les utilisateurs feront-ils confiance et adopteront-ils les technologies pilotées par l'IA ? Étant donné que les perspectives de développement de l'IA dépendent fortement de la perception de sa fiabilité, garantir la fiabilité et la confiance en l'IA joue un rôle fondamental dans la promotion de son application pratique à grande échelle. Cependant, les théories, modèles mathématiques et méthodes dans les domaines de l'ingénierie de la fiabilité et de la gestion des risques n'ont pas suivi le rythme rapide des avancées technologiques en IA. Cela conduit à d'importants obstacles réglementaires et une limitation de la diffusion des modèles d'IA dans des domaines décisionnels critiques (tels que la médecine, l'aviation, la finance, les centrales nucléaires) en raison d'un manque de fiabilité et d'éléments clés tel que la confiance. Pour exploiter pleinement le potentiel de la prise de décision automatisée par IA dans ces applications critiques pour la sécurité, il est nécessaire d'établir une confiance modérée par la gestion des attentes — c'est-à-dire une évaluation précise des limites réelles des capacités de l'IA. Cet article se concentre sur la fiabilité fonctionnelle des systèmes d'IA dans le paradigme de l'apprentissage supervisé : il analyse d'abord les caractéristiques uniques des systèmes d'IA par rapport aux systèmes traditionnels et justifie la nécessité de développer des théories de fiabilité dédiées et des méthodes de gestion des risques ; puis il présente de manière systématique cinq mécanismes d'ingénierie actuels pour réaliser une IA fiable et digne de confiance : incluant la quantification de l'incertitude (UQ) basée sur les modèles et non-modèles de prédiction conforme, la prévision des pannes, l'apprentissage avec rejet, la vérification formelle et l'IA augmentée par les connaissances ; enfin, il propose plusieurs défis et opportunités de recherche dans les domaines de l'ingénierie de la fiabilité des systèmes IA et de la garantie de confiance. Cette étude vise à approfondir la compréhension des problèmes de fiabilité des systèmes d'IA et à encourager les chercheurs dans les domaines de la gestion des risques et de l'ingénierie de la fiabilité à participer à cette direction de recherche de plus en plus importante.

apprentissage profond; ingénierie de la fiabilité; gestion des risques; IA fiable; systèmes IA