Zertifizierung für vertrauenswürdige KI

TÜV-Organisationen entwickeln ein gemeinsames Rahmenprogramm für Qualität und Sicherheit von KI-Systemen. Eine unabhängige Prüfung soll Unternehmen einen belastbaren Nachweis gegenüber Kunden und Geschäftspartnern ermöglichen.

Künstliche Intelligenz hält mit hoher Geschwindigkeit Einzug in Wirtschaft und Alltag. Gleichzeitig nehmen Berichte über fehlerhafte Ergebnisse, Bias und andere Risiken von KI-Systemen zu. Das beeinflusst das Vertrauen in die Technologie.

Laut einer Studie des TÜV-Verbands fürchten 79 Prozent der Bundesbürger unkalkulierbare Risiken durch KI. Und selbst unter den Nutzern von KI-Anwendungen vertraut nur gut die Hälfte (53 Prozent) darauf, dass deren Ergebnisse und Antworten korrekt sind. „Vertrauen wird zu einem entscheidenden Faktor für die weitere Verbreitung Künstlicher Intelligenz“, beobachtet Marc Fliehe, Fachbereichsleiter Digitalisierung und KI beim TÜV-Verband. „Unternehmen müssen gegenüber Kunden, Geschäftspartnern und Anwendern nachweisen können, dass ihre KI-Systeme nicht nur leistungsfähig sind, sondern auch zuverlässig und sicher funktionieren.“

Die TÜV-Organisationen entwickeln deshalb ein gemeinsames Rahmenprogramm für die Zertifizierung von KI-Systemen. Hersteller und Anbieter sollen damit künftig unabhängig nachweisen können, dass ihre Systeme definierte Anforderungen an Qualität und Sicherheit erfüllen. Die KI-Zertifizierungen werden derzeit gemeinsam mit Pilotpartnern unter realen Bedingungen erprobt. Die Einführung ist für Ende 2026 vorgesehen. „Künstliche Intelligenz wird sich auf Dauer nur durchsetzen, wenn Menschen und Unternehmen ihr vertrauen können“, meint Fliehe. „Wer KI entwickelt oder einsetzt, muss zeigen, dass die Systeme zuverlässig funktionieren und Risiken beherrscht werden. Mit der TÜV-Zertifizierung schaffen wir dafür einen unabhängigen und nachvollziehbaren Nachweis. Das kann zu einem wichtigen Qualitätsmerkmal im KI-Markt werden.“

KI-Systeme werden bereits heute in industriellen Produktionsprozessen, bei medizinischen Diagnosen, in Fahrassistenzsystemen oder in Recruiting-Software eingesetzt. Je nach Anwendung können Fehler erhebliche Auswirkungen auf Menschen, Unternehmen oder technische Prozesse haben. Hinzu kommen spezifische Eigenschaften von Künstlicher Intelligenz: Ergebnisse können beispielsweise bestimmte Gruppen systematisch benachteiligen, oder Systeme können in unerwarteten Situationen unzuverlässig reagieren.

Mit dem AI Act entsteht in Europa ein verbindlicher regulatorischer Rahmen für Künstliche Intelligenz. Gleichzeitig wächst bei Unternehmen der Bedarf, die Qualität und Sicherheit ihrer KI-Systeme auch unabhängig nachweisen zu können. Fliehe: „Eine TÜV-Zertifizierung kann Kunden und Geschäftspartnern eine zusätzliche Orientierung geben und Unternehmen dabei unterstützen, Vertrauen in ihre Anwendungen aufzubauen.“

Passgenau für unterschiedliche KI-Systeme
Das Rahmenprogramm umfasst drei KI-Zertifizierungen, die vom TÜV-Verband und seinen Organisationen entwickelt werden und sich in Umfang, Tiefe und Methodik der Prüfung unterscheiden. Welche Zertifizierung zum Einsatz kommt, richtet sich nach dem jeweiligen Anwendungsfall und der angestrebten Aussagekraft der Prüfung. Das Rahmenprogramm ist durchgängig mit den Anforderungen der europäischen KI-Verordnung (EU AI Act) kompatibel und ergänzt diese gezielt um risikobasierte sowie technische Prüfaspekte.

Die erste KI-Zertifizierung richtet sich an KI-Systeme, die formal nicht unter die Hochrisiko-Kategorie des AI Acts fallen. Sie prüft zunächst grundlegende Qualitäts- und Sicherheitsanforderungen. Die zweite KI-Zertifizierung steht allen KI-Systemen offen. Sie umfasst eine strukturierte, KI-spezifische Risikobewertung und überprüft anhand der Dokumentation sowie direkt beim Hersteller, wie die Anforderungen umgesetzt werden. Für die dritte KI-Zertifizierung werden ausgewählte Eigenschaften des KI-Systems zusätzlich durch unabhängige technische Tests überprüft. Dadurch lassen sich die Leistungsfähigkeit und die Zuverlässigkeit des Systems vertieft bewerten.

„Nicht jedes KI-System stellt die gleichen Anforderungen an eine Prüfung“, bemerkt Dr. Christoph Poetsch, Head of AI Quality and Ethics beim TÜV AI.Lab. „Deshalb haben wir das Rahmenprogramm für die KI-Zertifizierung bewusst differenziert aufgebaut. Ob eigenständige KI-Anwendung oder KI als Bestandteil eines technischen Produkts: Die KI-Systeme der Hersteller werden risikoadäquat nach der KI-Zertifizierung geprüft, die zu ihrem Anwendungsfall passt.“

Pilotphase läuft – Marktstart Ende 2026

Derzeit erproben die TÜV-Organisationen die KI-Zertifizierungen mit Pilotpartnern. Die Pilotphase zeigt, wie sich die Prüfanforderungen und -verfahren unter realen Einsatzbedingungen bewähren. Diese Erkenntnisse fließen direkt in die Weiterentwicklung des Programms ein. Die schrittweise Einführung der KI-Zertifizierungen ist für Ende des Jahres geplant. Mit den KI-Zertifizierungen bringen die TÜV-Organisationen ihre Prüfexpertise ein, um die Qualität und Sicherheit von KI-Systemen je nach Anwendungsfall und erforderlicher Prüftiefe unabhängig zu bewerten.

Methodik-Hinweis: Die Angaben zum Vertrauen der Bürgerinnen und Bürger in Künstliche Intelligenz stammen aus der TÜV KI-Studie 2025. Die repräsentative Umfrage wurde am 26. Oktober 2025 durchgeführt.

(Erschienen im EU-Recycling Magazin 10/2026, Seite 12, Foto: MSV, KI-generiert)