Gibt es eine menschliche Kontrolle über KI-Entscheidungen?
Ja. amaise ist als Human-in-the-Loop-System konzipiert. Keine autonomen Entscheidungen werden durch die KI getroffen.
Automatisierungsgrad: Informationsaufbereitung und Empfehlung. Die KI präsentiert klassifizierte Dokumente, extrahierte Datenfelder und Zusammenfassungen an menschliche Sachbearbeitende.
Prüfung und Korrektur: Benutzende können jedes KI-generierte Ergebnis einsehen, ändern oder ablehnen.
Integrierte Review-Stufen: Die Pipeline enthält eigene Review-Stufen (Segmentierungs-Review und Fall-Review), in denen Benutzende KI-Ergebnisse prüfen und korrigieren, bevor ein Fall bereit ist; wann ein Review erforderlich ist, wird pro Mandant konfiguriert.
Keine automatische Genehmigung: Kein KI-Ergebnis löst eine automatisierte Zahlung, Ablehnung oder rechtliche Massnahme ohne menschliche Freigabe aus.
Dieses Design steht im Einklang mit DSGVO Art. 22 (Recht, nicht einer ausschliesslich automatisierten Entscheidung unterworfen zu werden) und antizipiert die Anforderungen des EU AI Act an menschliche Aufsicht für Hochrisiko-KI-Systeme.