Kurze Antwort: Die künstliche Intelligenz muss Prüfnachweise klassifizieren, Lücken aufzeigen und dem Experten einen Vorschlag unterbreiten. Die Konformitätsentscheidung, die Interpretation kritischer Befunde, die Annahme von Ausnahmen und die Berichtsveröffentlichung dürfen dagegen ohne nachvollziehbare Genehmigung durch qualifiziertes Personal nicht abgeschlossen werden.
Warum muss die richtige Grenze aufgabenbezogen gezogen werden?
Die Frage „Nutzen wir künstliche Intelligenz?“ genügt allein nicht. Entscheidend ist, welche Aufgabe das System übernimmt und wozu eine fehlerhafte Ausgabe führt. Ein Foto dem richtigen Arbeitsauftrag zuzuordnen und zu entscheiden, dass Equipment betriebsbereit ist, gehören nicht in dieselbe Risikoklasse.
Die von der ISO im März 2026 veröffentlichte ISO/IEC 17020:2026legt für Inspektionsorganisationen Kompetenz, Unparteilichkeit und konsistenten Betrieb zugrunde; in der neuen Ausgabe rücken risikobasiertes Denken sowie die Kontrolle von Daten und Informationen in den Vordergrund. Die daraus folgende technische Konsequenz: Eine KI-Ausgabe ist keine eigenständige Entscheidung anstelle der Prüfmethode und des qualifizierten Personals, sondern als kontrollierter Prozessinput zu gestalten.
Wo erzeugt künstliche Intelligenz sicheren Mehrwert?
Am besten geeignet sind Unterstützungsaufgaben mit widerrufbarer Ausgabe, bei denen der Experte leicht zum eigentlichen Nachweis zurückkehren kann. Wird der Systemvorschlag nicht angenommen, darf der Workflow nicht gestört werden; geringe Konfidenz, Datendrift oder fehlende Nachweise sollen automatisch eine Prüfwarteschlange erzeugen.
- Vollständigkeitskontrolle der Aufzeichnungen: Fehlende Pflichtfelder, Fotos, Gerätedatensätze, Personalqualifikationen und Zeitstempel vor der Berichtsveröffentlichung markieren.
- Anomaliepriorisierung: Innerhalb einer Vielzahl von Messungen oder Bildern verdächtige Datensätze reihen, die der Experte zuerst ansieht; kein Urteil „Mangel liegt vor“ fällen.
- Dokument- und Nachweisabgleich: Das Feldfoto mit Equipment, Prüfpunkt und Arbeitsauftrag verknüpfen; mehrdeutige Zuordnungen einer menschlichen Warteschlange überlassen.
- Entwurfserstellung: Aus genehmigten Feldern eine Berichtszusammenfassung oder einen Befundentwurf erzeugen; Sätze, deren Quelle nicht gezeigt werden kann, nicht veröffentlichen.
- Planungsunterstützung: Route- oder Reihenfolgevorschläge auf Basis von Arbeitslast-, Standort- und Zeitdaten, ohne Verstoß gegen harte Regeln wie Zuständigkeit, Unabhängigkeit und Gerätegeeignetheit.
Die aktuelle Online-Kernversion des NIST AI RMF 1.0 verlangt die Trennung der Rollen von Mensch und KI, die Dokumentation der Wissensgrenzen des Systems, die Definition menschlicher Aufsichtsprozesse sowie Tests der Systeme vor der Inbetriebnahme und während der Nutzung. Im Workflow von VizyonTech entspricht dem die gemeinsame Führung von Modellversion, Eingangsnachweis, Konfidenz-/Ausnahmestatus und menschlicher Aktion in demselben Audit-Trail.
In welchen Schritten muss eine menschliche Freigabe verpflichtend bleiben?
Wenn die Ausgabe Sicherheit, Rechtskonformität, den Akkreditierungsumfang, Kundenrechte oder den offiziellen Charakter des Berichts betrifft, darf der Mensch nicht nur eine symbolische Schaltfläche „Genehmigen“ sein. Die zuständige Person muss auf den ursprünglichen Nachweis zugreifen, den Vorschlag ablehnen, die Begründung dokumentieren und den Prozess anhalten können.
| Aufgabe | KI-Rolle | Menschliche Kontrolle | Fail-closed-Verhalten |
|---|---|---|---|
| Klassifizierung von Fotos und Aufzeichnungen | Vorschlag | Bestätigung von Übereinstimmungen mit niedriger Konfidenz | Bei uneindeutiger Übereinstimmung wird die Aufzeichnung nicht abgeschlossen |
| Anomalie-Scan | Priorisierung | Interpretation des Rohnachweises und Erstellung des Befunds | Das Modellergebnis allein gilt nicht als Mangel |
| Annahme von Messwerten | Konsistenz-/Grenzwertwarnung | Bewertung der Eignung von Verfahren, Gerät und Bedingungen | Bei unvollständiger Rückverfolgbarkeit ist das Ergebnis nicht verwertbar |
| Konformitätsentscheidung | Nachweiszusammenfassung | Fachkundige technische Entscheidung | Ohne menschliche Freigabe kommt keine Entscheidung zustande |
| Ausnahme oder Abweichung | Risksignal | Berechtigte, begründete Annahme oder Ablehnung | Ohne befristete und dokumentierte Freigabe stoppt der Prozess |
| Berichtsveröffentlichung | Prüfung von Entwurf und Vollständigkeit | Technische Freigabe und gegebenenfalls Unterschrift | Nicht freigegebene Versionen dürfen nicht nach außen gelangen |
EU-Verordnung über künstliche Intelligenz 2024/1689, Artikel 14 sieht für Hochrisikosysteme vor, dass die Aufsichtsperson Kapazitäten und Grenzen des Systems versteht, sich vor Automatisierungsvoreingenommenheit hütet, die Ausgabe interpretieren und außer Kraft setzen sowie das System anhalten kann. Dieser Text behauptet nicht, dass jeder KI-Einsatz bei Inspektionen rechtlich „hochriskant“ ist; er nutzt diese Fähigkeiten als eine starke Design-Checkliste für kritische Inspektionsentscheidungen.
Wie wird die menschliche Freigabe zu einer echten Kontrolle?
Es genügt nicht, auf einem Freigabebildschirm einen Namen einzutragen. Für eine wirksame Kontrolle müssen Aufgabe, Befugnis und Nachweis am selben Ort zusammenkommen:
- Definieren Sie die Rolle im Voraus: Verknüpfen Sie anhand des Zuständigkeitsnachweises, wer bei welchem Verfahren, Umfang und Entscheidungstyp freigeben darf.
- Zeigen Sie den ursprünglichen Nachweis: Die Fachkraft soll nicht nur die KI-Zusammenfassung sehen, sondern das Foto, die Rohmessung, das Gerät, das Verfahren und frühere Revisionen.
- Verschweigen Sie die Unsicherheit nicht: Modellversion, Zeitpunkt der Bewertung, Leistungsschwelle und Grund für niedrige Konfidenz sollen im Audit-Trail vorhanden sein.
- Ermöglichen Sie die Ablehnung: Die Befugnisse, den Vorschlag zu ändern, abzulehnen, an eine Zweitprüfung zu übergeben und sofort anzuhalten, müssen real sein.
- Messen Sie die Automatisierungsvoreingenommenheit: Wie oft Menschen den Vorschlag unbesehen übernehmen, welche Befunde übersehen wurden und welche Fehlalarme auftraten, sollte regelmäßig untersucht werden.
Für Inspektionsstellen ILAC P15:05/2020 ist das derzeit gültige ILAC-Dokument, das die Akkreditierungspraxis von ISO/IEC 17020:2012 erläutert. Auch wenn die ISO-Ausgabe 2026 bereits veröffentlicht wurde, müssen der Übergangsplan der Stelle und die aktuellen Regelungen der eigenen Akkreditierungsstelle zusätzlich verifiziert werden. Die Software darf daher die Normversion nicht als fest annehmen; Verfahren, Umfang und Übergangsregel sollten konfigurierbar bleiben.
Wie werden Datensicherheit und Privatsphäre geschützt?
Außenfotos, Kundeninformationen, Personalakten und Berichtsinhalte dürfen nicht unkontrolliert an ein Allzweckmodell gesendet werden. Die KVKK legte am 24. November 2025 die Leitlinie zur generativen künstlichen Intelligenz und zum Schutz personenbezogener Daten vor; sie betont den menschenzentrierten, transparenten und prüfbaren Ansatz sowie die Bewertung der Verarbeitung personenbezogener Daten über den gesamten Lebenszyklus.
In der technischen Umsetzung müssen Datenminimierung, rollenbasierter Zugriff, Protokollierung der Übertragungsziele, Aufbewahrungsfristen, Bewertung Drittanbieter sowie Löschungs-/Anonymisierungsabläufe gemeinsam eingerichtet werden. Modelleingaben und -ausgaben dürfen kein vom Zugriffskontrollsystem unerfasstes Schattenarchiv bilden.
Beispielhafte Kontrollarchitektur im Workflow von VizyonTech
Vizyon Periyodik In einem solchen außenorientierten Ablauf kann die KI-Schicht nach dem Arbeitsauftrag und den Zuständigkeits- und Geräte-Gates die Nachweisvollständigkeit und die Anomaliepriorität erzeugen. Die technische Entscheidung, die Versionsfreigabe und die Berichtsveröffentlichung müssen jedoch in der bestehenden Kette der berechtigten Freigaben bleiben. Ebenso müssen in der Verwaltung von ZfP-Berichten die verfahrensspezifischen Rohnachweise unabhängig von der KI-Zusammenfassung erhalten bleiben.
Der minimale Audit-Trail sollte Arbeitsauftrags-ID, Datenquelle, Modell- und Regelversion, Zeitstempel, Vorschlag, Konfidenz-/Ausnahmeinformation, den vom Menschen eingesehenen Nachweis, die Annahme- oder Ablehnungsaktion, die Begründung und die veröffentlichte Berichtsversion umfassen. Ist das Modell nicht verfügbar, muss der Weg für kritische Entscheidungen manuell und sicher weiterlaufen; eine automatische Veröffentlichung ohne vollständigen Nachweis darf nicht erfolgen.
Nachweismatrix
| Aussage | Quelle | Datum / Version | Entsprechung bei VizyonTech | Technische Konsequenz |
|---|---|---|---|---|
| Vertrauen bei Inspektionen beruht auf Zuständigkeit, Unparteilichkeit und konsistentem Betrieb | ISO, ISO/IEC 17020 | 2026, 3. Ausgabe; korrigierte Version 2026-06 | ist die KI-Unterstützungsschicht | Die Konformitätsentscheidung bleibt in der zuständigen Rolle verankert |
| Rollen, Grenzen und Aufsicht von Mensch und KI sind zu dokumentieren | NIST — Kern des AI RMF | AI RMF 1.0, 2023; Online-Quelle abgerufen 2026 | Rollen-, Modell-, Eingabe- und Aktionsprotokoll | Vorschläge werden ablehnbar und testbar |
| Bei kritischer Aufsicht muss der Mensch die Ausgabe außer Kraft setzen und das System anhalten können | EU 2024/1689, Artikel 14 | 2024; der Anwendungszeitplan variiert je nach Nutzung und Umfang | Override, Stopp und Zweitprüfung | Statt symbolischer Freigabe wird eine wirksame Kontrolle etabliert |
| Die Akkreditierungspraxis von ISO/IEC 17020 wird zusätzlich ausgelegt | ILAC P15 | 05/2020 | Versions- und Übergangsregeln werden konfigurierbar | Der Übergang zwischen alter und neuer Norm wird nicht angenommen |
| Auswirkungen auf personenbezogene Daten sind über den gesamten KI-Lebenszyklus zu bewerten | KVKK-Leitlinie zur generativen KI | 24.11.2025 | Kontrollen für Minimierung, Zugriff und Aufbewahrung | Außendaten werden nicht unkontrolliert an das Modell übertragen |
Abschließende Entscheidung
Gutes KI-Design bei Inspektionen ist konkreter als die Losung „den Menschen in der Schleife halten“: Es beschleunigt risikoarme Vorbereitungsarbeiten, überlässt die kritische Entscheidung der zuständigen Person und verknüpft jede Aktion von beiden mit Nachweisen. Wählen Sie für den ersten Pilotbetrieb eine einzige Aufgabe; halten Sie Fehlerkosten, Eskalationsbedingung, menschliche Befugnis und Erfolgskriterium schriftlich fest, bevor Sie in Produktion gehen.
Quellen
- ISO — ISO/IEC 17020:2026, Konformitätsbewertung – Anforderungen an Stellen, die Inspektionen durchführen (März 2026; korrigierte englische Version Juni 2026).
- ILAC — ILAC P15:05/2020, Anwendung der ISO/IEC 17020:2012 bei der Akkreditierung von Inspektionsstellen.
- NIST — Rahmenwerk für das Risikomanagement künstlicher Intelligenz (AI RMF 1.0), NIST AI 100-1 (26. Januar 2023).
- NIST AIRC — Kernfunktionen des AI RMF: Govern, Map, Measure, Manage.
- EUR-Lex — Verordnung (EU) 2024/1689, insbesondere Artikel 14 (13. Juni 2024).
- Behörde zum Schutz personenbezogener Daten — Leitlinie zur generativen künstlichen Intelligenz und zum Schutz personenbezogener Daten (in 15 Fragen) (24. November 2025).