04 — Qualité et limites
Qualité et limites : Traiter l’incertitude comme une contrainte d’architecture.
Les modèles restent probabilistes : une réponse plausible peut être inexacte. L’architecture doit tenir compte de cette réalité.
- Validation
- Une action sensible, irréversible ou à fort impact conserve une validation humaine adaptée au risque.
- Données
- Les informations transmises au modèle, leur conservation et leur localisation dépendent des fournisseurs retenus et doivent être examinées avant usage.
- Accès
- L’agent ne reçoit que les outils nécessaires. Les identités, permissions et secrets restent séparés selon leur fonction.
- Dépendances
- Coût, latence, disponibilité et évolution des modèles sont des contraintes d’exploitation. Les niveaux attendus sont définis dans le périmètre du projet.