摘要
Sistemas autônomos inteligentes (IASs), que abrangem veículos autônomos, drones e plataformas robóticas, transformaram radicalmente vários campos, do transporte à defesa. Ao utilizar tecnologias de inteligência artificial (IA), esses sistemas apresentam um paradigma de aprendizado orientado por dados, arquitetura integrada e tomada de decisão adaptativa. No entanto, essas novas capacidades também trazem desafios únicos de falha, incluindo vieses induzidos por dados, explicabilidade limitada e vulnerabilidade a ataques adversariais por perturbações. Essas características exigem que os sistemas tenham maior confiabilidade para garantir sua operação confiável em ambientes dinâmicos e críticos para a segurança. Este artigo revisa sistematicamente os avanços recentes na engenharia de confiabilidade de sistemas autônomos inteligentes a partir de quatro dimensões inter-relacionadas: precisão, capacidade de generalização, robustez e explicabilidade. Aproveitamos resultados interdisciplinares dos campos de aprendizado de máquina, inteligência artificial e confiabilidade, examinando métodos como fusão multissensorial, meta aprendizado, treinamento adversarial e restrições explicativas a priori, com base em dados empíricos de implantações reais. As conclusões principais indicam avanços significativos na redução da vulnerabilidade dos sistemas autônomos inteligentes, mas desafios persistentes relacionados ao equilíbrio entre desempenho e confiabilidade, degradação do desempenho em condições extremas e limitações de escalabilidade continuam a impedir sua ampla adoção. Propomos que as pesquisas futuras se concentrem em estruturas híbridas, raciocínio causal e modelos leves para promover a realização de sistemas autônomos inteligentes altamente confiáveis. Ao conectar a base teórica com a prática de engenharia, este artigo fornece um roteiro técnico abrangente para o desenvolvimento de sistemas autônomos confiáveis, dignos de confiança, seguros, eficientes e focados no bem-estar social.
关键词
sistemas autônomos;engenharia de confiabilidade;inteligência artificial