Интеллектуальные автономные системы (IASs), включая автономные транспортные средства, беспилотники и робототехнические платформы, радикально изменили различные области от транспортировки до обороны. Используя технологии искусственного интеллекта (ИИ), такие системы демонстрируют парадигму обучения на основе данных, интегрированную архитектуру и адаптивное принятие решений. Тем не менее, эти новые возможности также влекут за собой уникальные проблемы отказа, включая предвзятость, вызванную данными, ограниченную объяснимость и уязвимость к атакующим помехам. Эти особенности требуют высокой надежности систем для обеспечения устойчивой работы в динамичной и критически важной с точки зрения безопасности среде. В статье систематически рассматриваются последние достижения в инженерии надежности интеллектуальных автономных систем с четырех взаимосвязанных аспектов: точность, обобщаемость, устойчивость и объяснимость. Мы используем междисциплинарные результаты из областей машинного обучения, искусственного интеллекта и надежности, рассматривая методы мультисенсорного слияния, метаобучения, противодействующего обучения и априорных ограничений объяснимости, опираясь на эмпирические данные из реальных развертываний. Ключевые выводы показывают значительный прогресс в снижении уязвимости интеллектуальных автономных систем, но сохраняющиеся проблемы баланса между производительностью и надежностью, ухудшения производительности в экстремальных условиях и ограничений масштабируемости продолжают препятствовать их широкому применению. Мы предлагаем, что будущие исследования будут сосредоточены на гибридных рамках, причинном выводе и легковесных моделях для продвижения высоконадёжных интеллектуальных автономных систем. Соединяя теоретическую базу с инженерной практикой, статья предоставляет комплексную техническую дорожную карту для разработки надежных, заслуживающих доверия, а также безопасных, эффективных и ориентированных на социальное благополучие автономных систем.

автономные системы;инженерия надежности;искусственный интеллект