Problèmes
L'IA fonctionne en démonstration, pas dans l'opération
Un prototype fonctionne isolément mais il lui manque l'intégration, les permissions, l'évaluation, la surveillance, le contrôle humain, la gestion des défaillances et l'économie nécessaires pour fonctionner dans l'opération réelle. L'écart ne réside pas dans le modèle — il réside dans le système qui l'entoure.
Comment le reconnaître
Les signes observables.
- Le modèle fonctionne dans un notebook ou un environnement de démonstration, pas dans le flux de travail.
- Il n'existe ni jeu d'évaluation ni seuil de qualité convenu.
- Personne n'est responsable de ce qui se passe quand le résultat est erroné.
- Le coût et la latence à volume réel sont inconnus.
- La revue de sécurité renvoie systématiquement le pilote en arrière.
Ce que cela coûte
La conséquence opérationnelle.
L'investissement se bloque entre la démonstration et la production. Chaque tentative de déploiement rouvre les mêmes questions de contrôle non résolues, et l'organisation conclut discrètement que l'IA ne fonctionne pas ici.
L'opération cible
À quoi ressemble l'opération résolue.
Une capacité opérationnelle gouvernée : intégrée, soumise à permissions, évaluée, surveillée, avec un contrôle humain proportionnel à l'enjeu et un chemin d'échec testé.
- La capacité fonctionne au sein du flux de travail, à volume réel.
- La qualité est mesurée par rapport à un seuil convenu — en continu.
- Quand le système est incertain, il s'en remet à une personne, par conception.
Ce que nous construisons
Le système qui la résout.
Une frontière de contrôle autour de la capacité : permissions délimitées, évaluation avant et pendant la production, surveillance, gestion des défaillances définie, et autorité humaine sur les étapes à fort enjeu.
Sous contrôle
Le risque principal, et comment il est maîtrisé.
Le principal risque est une autonomie qui dépasse ce que les preuves permettent. L'autorité est accordée par étapes proportionnelles à l'enjeu, avec évaluation et reprise éprouvée avant chaque étape — jamais sur la seule base d'une démonstration.
Preuves
Inspectez avant de croire.
La preuve publiée la plus pertinente pour cette situation est : Schéma directeur de l'IA et des agents gouvernés — versionnée, datée, avec ses limites indiquées sur les pages de preuves.
Décrivez la capacité et l'opération qu'elle doit servir. Le premier livrable définit la frontière de contrôle et les critères d'acceptation qu'exigerait la production.
Mandat
Commencez par ce qui doit changer.
Décrivez l'opération et l'endroit où elle échoue. Décrivez la capacité et l'opération qu'elle doit servir. Le premier livrable définit la frontière de contrôle et les critères d'acceptation qu'exigerait la production.
Vous pouvez aussi soumettre un appel d'offres, ou demander un accord de confidentialité d'abord.