Human Gates bei Responsible AI: Wer trägt die Entscheidung?

KI beschleunigt Entwurf, Extraktion, Mapping, Testfallbildung und Dokumentation. Die Verantwortung bleibt beim Menschen: Ein benannter Mensch prüft jede regulatorische Interpretation, Architekturentscheidung, Risikofreigabe und Produktionsfreigabe.

Die harte Grenze

Kein Agent trifft autonom rechtliche, regulatorische, AML/KYC-, Kredit-, Underwriting-, Personal- oder medizinische Entscheidungen. Er darf Informationen finden, Entwürfe erstellen, Checks ausführen und Aktionen vorschlagen. Autorisierte Menschen prüfen Kontext, Konflikte und Evidenz und tragen die Entscheidung. Hochriskante oder unklare Fälle gehen in eine manuelle Queue.

Praktische Gates

• Klassifizierung des Use Case vor jedem Zugriff (prohibited/high-risk/transparency) mit qualifiziertem Legal.
• Evaluation mit Ground Truth vor jedem Pilot; kein Release bei failed critical eval.
• Sichtbare Unsicherheit, Ablehnen und Eskalieren als Pflichtverhalten des Agenten.
• Protokollierte Freigaben mit benanntem Approver statt stiller Automatisierung.

Diese Prinzipien fließen in alle SPNORTH-Angebote ein; Details liefert der Katalog.