Les systèmes autonomes intelligents (IASs), comprenant les véhicules autonomes, les drones et les plateformes robotiques, ont radicalement transformé plusieurs domaines, du transport à la défense. En utilisant les technologies d’intelligence artificielle (IA), ces systèmes présentent un paradigme d’apprentissage basé sur les données, une architecture intégrée et une prise de décision adaptative. Cependant, ces nouvelles capacités apportent également des défis uniques en matière de défaillance, y compris les biais induits par les données, la limitée explicabilité et la vulnérabilité aux attaques par perturbations adverses. Ces caractéristiques exigent que les systèmes disposent d’une fiabilité accrue pour assurer leur fonctionnement fiable dans des environnements dynamiques et critiques en sécurité. Cet article présente une revue systématique des avancées récentes en ingénierie de la fiabilité des systèmes autonomes intelligents selon quatre dimensions interconnectées : la précision, la capacité de généralisation, la robustesse et l’explicabilité. Nous puisons dans les résultats interdisciplinaires des domaines de l’apprentissage machine, de l’intelligence artificielle et de la fiabilité, en examinant des méthodes telles que la fusion multi-capteurs, le méta-apprentissage, l’entraînement adversarial et les contraintes a priori d’explicabilité, en nous appuyant sur des données empiriques issues de déploiements réels. Les conclusions clés montrent des progrès significatifs dans la réduction de la vulnérabilité des systèmes autonomes intelligents, mais les défis persistants relatifs au compromis entre performance et fiabilité, à la dégradation des performances dans des conditions extrêmes et aux limitations de scalabilité continuent d’entraver leur adoption à grande échelle. Nous proposons que les recherches futures se concentrent sur les cadres hybrides, le raisonnement causal et les modèles allégés afin de promouvoir la réalisation de systèmes autonomes intelligents à haute fiabilité. En associant bases théoriques et pratiques d’ingénierie, cet article fournit une feuille de route technique complète pour développer des systèmes autonomes fiables, dignes de confiance, sûrs, efficaces et axés sur le bien-être social.

systèmes autonomes;ingénierie de la fiabilité;intelligence artificielle