Les trois dimensions de la gouvernance de la dépendance
Dimension 1 : Diversification et portabilité
La première défense contre la dépendance est la diversification. Une organisation ne doit pas concentrer trop de fonctionnalités critiques sur un seul système ou fournisseur IA. De plus, elle doit conserver la capacité à migrer vers d'autres solutions ou fournisseurs.
- Identifier les fonctionnalités critiques et assurer leur couverture par au moins deux sources possibles.
- Conserver le code, les données et la propriété intellectuelle nécessaires pour changer de fournisseur.
- Tester régulièrement la portabilité : peut-on vraiment migrer vers une autre solution ?
- Documenter explicitement les dépendances vis-à-vis de fournisseurs externes.
Dimension 2 : Transparence et compréhension
Une organisation ne peut gouverner efficacement une dépendance que si elle la comprend. Cela impose une transparence complète sur le fonctionnement des systèmes IA, leurs limites, leurs risques et leurs impacts décisionnels.
- Exiger que tous les systèmes IA soient auditable et explicable, pas des boîtes noires.
- Conduire des audits réguliers pour vérifier que l'IA fait ce qu'on pense qu'elle fait.
- Former les équipes à comprendre les systèmes IA, pas à les vénérer.
- Mettre en place des alertes pour détcter quand une IA commence à déterminer les décisions métier plutôt que de les soutenir.
Dimension 3 : Résilience et plans de secours
Une organisation résiliente doit pouvoir fonctionner sans ses systèmes IA. Cela nécessite de conserver les processus manuels ou alternatifs, même s'ils sont moins efficaces, et de tester régulièrement la capacité à fonctionner en mode dégradé.
- Conserver les processus manuels alternatifs pour toutes les fonctionnalités critiques.
- Tester régulièrement le passage en mode dégradé : l'organisation peut-elle continuer sans IA ?
- Documenter explicitement les seuils de basculement : à quel point de dysfonctionnement on arrête l'IA ?
- Planifier des exercices de reprise d'activité incluant la perte de systèmes IA.