Y a-t-il un contrôle humain sur les décisions de l’IA ?
Oui. amaise est conçu comme un système Human-in-the-Loop. Aucune décision autonome n’est prise par l’IA.
Degré d’automatisation : préparation de l’information et recommandation. L’IA présente aux gestionnaires humains les documents classifiés, les champs de données extraits et les résumés.
Vérification et correction : les utilisateurs peuvent consulter, modifier ou rejeter chaque résultat généré par l’IA.
Étapes de revue intégrées : la pipeline comprend des étapes de revue dédiées (revue de segmentation et revue du dossier) où les utilisateurs vérifient et corrigent les résultats de l’IA avant qu’un dossier ne soit disponible ; le moment où une revue est requise est configuré par client.
Aucune approbation automatique : aucun résultat de l’IA ne déclenche un paiement automatisé, un rejet ou une mesure juridique sans validation humaine.
Cette conception est conforme à l’article 22 du RGPD (droit de ne pas être soumis à une décision exclusivement automatisée) et anticipe les exigences du règlement européen sur l’IA concernant la supervision humaine des systèmes d’IA à haut risque.