Mit der kontinuierlichen Erweiterung des Anwendungs-potenzials von Künstlicher Intelligenz (KI) bleibt eine Kernfrage ungelöst: Werden Nutzer KI-getriebene Technologien vertrauen und annehmen? Da die Entwicklungsaussichten von KI stark von der Wahrnehmung ihrer Vertrauenswürdigkeit abhängen, spielt die Gewährleistung von Zuverlässigkeit und Vertrauen eine grundlegende Rolle bei der Förderung ihrer breiten praktischen Anwendung. Theorien, mathematische Modelle und Methoden im Bereich der Zuverlässigkeitstechnik und Risikomanagement haben jedoch nicht mit der rasanten Entwicklung der KI-Technologien Schritt gehalten. Dies führt zu erheblichen Hürden bei der regulatorischen Zulassung und zur Einschränkung der breiten Nutzung von KI-Modellen in sicherheitskritischen Entscheidungsbereichen wie Medizin, Luftfahrt, Finanzen und Kernkraftwerken aufgrund fehlender Zuverlässigkeit und zentraler Faktoren wie Vertrauen. Um das Potenzial der automatisierten Entscheidungsfindung durch KI in diesen sicherheitskritischen Anwendungen voll auszuschöpfen, muss durch Erwartungsmanagement ein angemessenes Vertrauen aufgebaut werden – das heißt eine genaue Einschätzung der tatsächlichen Fähigkeitsgrenzen der KI. Dieser Artikel fokussiert die funktionale Zuverlässigkeit von KI-Systemen im Paradigma des überwachten Lernens: Zunächst werden die einzigartigen Merkmale von KI-Systemen im Vergleich zu traditionellen Systemen analysiert und die Notwendigkeit der Entwicklung spezieller Zuverlässigkeitstheorien und Risikomanagementmethoden dargelegt; anschließend werden systematisch die fünf aktuellen ingenieurwissenschaftlichen Mechanismen für vertrauenswürdige und zuverlässige KI untersucht: einschließlich Unsicherheitsquantifizierung (UQ) basierend auf modellbasierten und modellunabhängigen konformen Vorhersagen, Fehlerprognose, Lernen mit Verweigerung, formale Verifikation und wissensbasierte KI; abschließend werden mehrere Forschungsherausforderungen und Chancen im Bereich der Zuverlässigkeitstechnik und Vertrauensgewährleistung von KI-Systemen aufgezeigt. Ziel der Studie ist es, das Verständnis der Zuverlässigkeitsprobleme von KI-Systemen zu vertiefen und Forscher aus Risikomanagement und Zuverlässigkeitstechnik zur Mitarbeit an diesem zunehmend wichtigen Forschungsfeld zu motivieren.

Deep Learning; Zuverlässigkeitstechnik; Risikomanagement; vertrauenswürdige KI; KI-Systeme