Preuves — Schéma directeur d'ingénierie
Architecture d'intelligence décisionnelle
Comment transformer des données et modèles dispersés en décisions auxquelles les gens font réellement confiance et sur lesquelles ils agissent — avec l'incertitude, l'autorité humaine et la boucle de rétroaction des résultats conçues dès le départ, pas ajoutées après coup. Ses compromis, modes de défaillance et limites inclus.
Schéma directeur d'ingénierie
Une architecture de référence, généralisée à partir de schémas d'aide à la décision. Ni un produit, ni un travail client.
Objet
L'objet de cette architecture.
Cette architecture transforme des données et des modèles dispersés en décisions auxquelles les gens font réellement confiance et sur lesquelles ils agissent, avec l'incertitude, l'autorité humaine et la boucle de retour sur les résultats rendues explicites, plutôt que traitées après coup.
Quand elle est appropriée
- Les décisions répétées de même nature, où les résultats peuvent éventuellement être observés et mesurés.
- Les situations où un score seul ne suffit pas — quelqu'un doit être responsable de l'appel à forte conséquence.
- Les opérations qui collectent déjà les données dont dépend une décision, ou peuvent commencer à le faire.
Architecture
Composants, relations et limites.
Une décision fonctionne comme une boucle gouvernée, pas comme un score à sens unique. Chaque composant a un rôle défini, et le résultat revient pour améliorer la décision suivante.
Boucle de décision
Description textuelle de ce diagramme
La décision s'exécute comme une boucle gouvernée :
- Entrées — les variables définies dont dépend la décision.
- Modèle + confiance — une réponse avec une confiance calibrée, pas une simple estimation.
- Autorité humaine — une personne détient les décisions conséquentes ou à faible confiance.
- Action — la décision est appliquée.
- Résultat — le résultat est enregistré et réinjecté pour améliorer le modèle.
Composants
- Entrées et caractéristiques
- Les signaux définis dont dépend une décision, avec leur source et leur fraîcheur connues.
- Modèle et règles
- Les modèles produisent des estimations ; des règles explicites codifient les contraintes et la politique qui doivent toujours tenir.
- Confiance calibrée
- Chaque estimation porte une confiance qui a été vérifiée par rapport à la réalité, afin que les cas à faible confiance puissent être traités différemment.
- Politique de décision
- Les seuils et les bandes qui transforment une estimation plus sa confiance en une action ou une escalade — détenus par un humain, versionnés, et auditables.
- Autorité humaine
- Une personne possède les décisions à forte conséquence et à faible confiance, peut y déroger, et fixe les seuils.
- Capture des résultats et retour
- L'action et son résultat ultérieur sont enregistrés et renvoyés pour surveiller la qualité et améliorer le modèle.
Limites de données et d'autorité
Les données et l'autorité sont bornées afin que la décision puisse être gouvernée et que son comportement ne puisse pas dériver sans être vu.
- Le modèle qui estime et la politique de décision qui agit sont maintenus séparés, afin que les seuils puissent changer sans réentraînement et être revus par eux-mêmes.
- Seuls des rôles autorisés peuvent modifier les seuils ou déroger aux décisions, et chaque tel changement est enregistré.
- Les entrées vivent à l'intérieur d'une limite de données à accès en moindre privilège ; les caractéristiques utilisées dans une décision sont journalisées pour un examen ultérieur.
- Les résultats sont capturés sans laisser fuiter de données personnelles vers des endroits où elles ne devraient pas aller.
Autorité humaine
Où une personne reste aux commandes.
L'humain n'est pas un simple tampon à la fin. L'autorité et la capacité de façonner le système sont conçues.
- Une personne possède les décisions à forte conséquence et chaque décision à faible confiance.
- Les gens fixent et révisent les seuils de décision ; le système ne déplace pas silencieusement ses propres objectifs.
- Les dérogations sont attendues, enregistrées avec une raison, et utilisées comme un signal que le modèle ou les seuils peuvent nécessiter de l'attention.
- L'interface fait apparaître l'incertitude et les raisons derrière une estimation, afin qu'une décision soit informée plutôt que déférée à un simple chiffre.
Évaluation
Comment elle est mesurée, et comment l'incertitude est gérée.
Un système de décision est jugé par la qualité de ses décisions par rapport aux résultats réels, pas par une métrique de modèle isolée.
Ce qui est mesuré
- Qualité de la décision par rapport aux résultats observés, une fois qu'ils sont connus.
- Calibration — une confiance de 80 % signifie-t-elle avoir raison environ 80 % du temps ?
- Précision et rappel aux seuils choisis, là où le point d'opération se trouve réellement.
- Taux de dérogation et résultats des décisions contournées.
- La mesure opérationnelle ou commerciale réelle que la décision est censée faire bouger.
Incertitude
La confiance est calibrée et transportée jusqu'à la politique de décision. Une estimation dont la confiance tombe dans une bande d'abstention est escaladée vers un humain plutôt qu'exécutée automatiquement. L'incertitude est montrée au décideur, pas cachée derrière un chiffre unique.
Observabilité
Les entrées, l'estimation et sa confiance, la décision, et le résultat éventuel sont journalisés afin que la dérive et la mauvaise calibration soient détectables. La surveillance compare le comportement en direct à la référence d'évaluation et déclenche une revue quand ils divergent.
Modes de défaillance
Comment elle échoue, et ce qui tient.
| Mode de défaillance | Mitigation |
|---|---|
| Confiance mal calibrée | Mesurer explicitement la calibration, recalibrer, et la surveiller en opération ; traiter l'excès de confiance comme un défaut, pas un détail. |
| Fuite de rétroaction ou contamination des étiquettes | Retenir les données honnêtement, attendre les résultats réels différés, et garder l'entraînement séparé du chemin de décision en direct. |
| Décalage de distribution | Surveiller les distributions d'entrée et de résultat, alerter sur la dérive, et réévaluer selon un calendrier plutôt que de supposer que le modèle d'hier tient toujours. |
| Biais d'automatisation | Faire apparaître l'incertitude et le raisonnement, exiger une raison pour les dérogations, et revoir les décisions où les humains sont toujours d'accord avec le modèle. |
| Optimiser un proxy au lieu du résultat réel | Lier l'évaluation au résultat opérationnel réel, et revisiter la métrique quand le proxy et le résultat divergent. |
Alternatives rejetées
Ce qui a été envisagé, et pourquoi ce n'a pas été choisi.
-
Automatiser entièrement la décision à forte conséquence
Envisagé Cela supprime le goulot d'étranglement humain et est cohérent.
Rejeté Personne n'est responsable d'un mauvais appel à forte conséquence, et il n'y a aucune autorité pour l'arrêter. L'automatisation est réservée aux cas à faible conséquence et à haute confiance.
-
Un score boîte noire sans confiance
Envisagé Il est simple à exposer et à intégrer.
Rejeté Sans confiance calibrée, la politique de décision ne peut pas traiter différemment les cas incertains, et le système ne peut pas être gouverné. La confiance est plutôt traitée comme un élément à part entière.
-
Un tableau de bord où les humains font tout
Envisagé Cela garde les humains entièrement au contrôle.
Rejeté Cela ne s'adapte pas et produit des décisions incohérentes entre les personnes. Le modèle gère le routinier et fait apparaître l'incertain, gardant les humains pour le jugement.
-
Un moteur de règles pur
Envisagé Il est transparent et prévisible.
Rejeté Il est fragile là où les schémas sont complexes et ne peut pas apprendre des résultats. Là où les règles suffisent vraiment, cependant, elles sont la bonne réponse (voir ci-dessous).
Déploiement et coût
Comment elle est déployée, et ce qui détermine son coût.
- Notation par lots (batch)
- Décisions calculées selon un calendrier lorsque l'opération n'a pas besoin d'une réponse instantanée — plus simple et moins coûteux à exploiter.
- Notation en temps réel
- Décisions servies à la demande lorsque l'opération a besoin d'une réponse immédiate, à un coût opérationnel plus élevé.
- Mode d'observation en premier
- Le système fonctionne parallèlement au processus actuel, ses décisions enregistrées mais non exécutées, jusqu'à ce que l'évaluation montre qu'il est sûr de lui accorder l'autorité.
Coût d'exploitation
Le coût est dominé par le développement et la validation du modèle, l'infrastructure de surveillance et de retour, et la revue humaine continue — pas par la notation seule. Il est décrit qualitativement ; une estimation réelle dépend du volume de décisions, des besoins de latence, et de l'ampleur de la revue humaine que la conséquence exige.
Quand ne pas utiliser cette architecture
Les limites, honnêtement.
- Quand une règle simple ou un rapport clair produit déjà la bonne décision — n'ajouter aucun modèle.
- Quand les résultats ne peuvent jamais être observés, si bien que la décision ne peut jamais être évaluée ni améliorée.
- Quand la décision est rare ou ponctuelle ; l'investissement dans l'évaluation et la surveillance ne sera pas rentabilisé.
- Quand les données disponibles sont trop clairsemées ou trop biaisées pour soutenir une estimation fiable — corriger d'abord les données.
Ce que ceci prouve, et ce que ceci ne prouve pas
Cela montre
- Que l'incertitude et l'autorité humaine peuvent devenir des composantes à part entière d'une architecture décisionnelle.
- Que la boucle de retour sur les résultats appartient à l'architecture, pas à une phase ultérieure.
Cela ne montre pas
- Qu'un modèle atteint une précision décisionnelle donnée.
- Que l'automatisation est justifiée pour une décision spécifique.
Comment l'inspecter
Lisez le diagramme des composants et de l'autorité, le traitement de l'incertitude et du retour, et la section « quand une réponse plus simple est préférable ».
Mandat
Commencez par ce qui doit changer.
Si les décisions sont lentes ou incertaines parce que les données et le jugement vivent séparément, un mandat commence par rendre explicite la décision, son incertitude et son autorité.
Vous pouvez aussi soumettre un appel d'offres, ou demander un accord de confidentialité d'abord.