Com a expansão contínua do potencial de aplicações da inteligência artificial (IA), uma questão central permanece sem solução: os usuários irão confiar e adotar tecnologias impulsionadas pela IA? Como as perspectivas de desenvolvimento da IA dependem fortemente da percepção de sua confiabilidade, garantir a confiabilidade e a confiança da IA desempenha um papel fundamental na promoção de sua ampla aplicação prática. No entanto, as teorias, modelos matemáticos e métodos nos campos da engenharia de confiabilidade e gerenciamento de riscos ainda não acompanharam o rápido desenvolvimento das tecnologias de IA. Isso resulta em grandes obstáculos para aprovação regulatória e limitações na ampla adoção de modelos de IA em áreas críticas de tomada de decisão, como medicina, aviação, finanças e usinas nucleares, devido à falta de elementos essenciais como confiabilidade e confiança. Para explorar plenamente o potencial da tomada de decisão automatizada baseada em IA nessas aplicações críticas de segurança, é necessário estabelecer uma confiança moderada por meio da gestão de expectativas — ou seja, avalizando com precisão os limites reais das capacidades da IA. Este artigo se concentra na confiabilidade funcional dos sistemas de IA sob o paradigma da aprendizagem supervisionada: primeiro analisa as características únicas que distinguem os sistemas de IA dos sistemas tradicionais e argumenta a necessidade de desenvolver teorias de confiabilidade especializadas e métodos de gerenciamento de riscos; em seguida, sistematiza cinco mecanismos de engenharia atuais para alcançar uma IA confiável e digna de confiança: incluindo quantificação de incertezas (UQ) baseada em modelos e previsão conforme independente de modelos, previsão de falhas, aprendizagem com recusa, verificação formal e IA aumentada por conhecimento; finalmente propõe diversos desafios e oportunidades de pesquisa nos campos da engenharia de confiabilidade dos sistemas de IA e garantia de confiança. Esta pesquisa visa aprofundar a compreensão dos problemas de confiabilidade dos sistemas de IA e incentivar pesquisadores das áreas de gerenciamento de riscos e engenharia de confiabilidade a participarem dessa direção de pesquisa cada vez mais importante.

aprendizagem profunda; engenharia de confiabilidade; gerenciamento de riscos; IA confiável; sistemas de IA