Jacob Coxon vient de quitter l'industrie de l'IA. Après trois années de recherche sur le pré-entraînement chez OpenAI puis Anthropic, il alerte sur une course vers des systèmes capables de contribuer à leur propre amélioration. Evan Hubinger, qui dirige chez Anthropic l'équipe chargée d'éprouver les dispositifs de sécurité des modèles, estime personnellement le risque d'extinction humaine à plus de 10 % au cours de la prochaine décennie.
Une telle alerte mérite d'entrer dans la décision. Elle constitue un scénario grave, porté par des chercheurs directement engagés dans le développement de ces modèles. Elle reste un scénario parmi plusieurs trajectoires possibles.
Il y a quelques mois, je décrivais déjà cette mécanique. La séquence diffusée par Franceinfo la rend de nouveau visible : une hypothèse extrême capture immédiatement l'attention et finit par occuper tout le récit.
Le conditionnel est présent.
Notre imaginaire a déjà écrit la suite.
Coxon apporte un signal d'initié. La preuve d'un futur déjà écrit reste hors de portée.
Le fantasme de l'IA fonctionne dans les deux sens
D'un côté, la machine toute-puissante qui promettrait une prospérité presque automatique. De l'autre, la machine incontrôlable qui conduirait nécessairement à la catastrophe.
Deux récits opposés produisent le même effet : ils transforment une trajectoire incertaine en destin et suspendent le jugement.
L'IA constitue pour cela un amplificateur presque parfait. Son apparence de parole nous invite à lui prêter une volonté, des intentions et une puissance propre. Elle devient tour à tour le sauveur attendu, le remplaçant redouté ou la bête noire idéale.
Elle produit des réponses. La responsabilité du récit et de la décision reste humaine.
L'architecture de la délégation
À ce jour, l'IA demeure inscrite dans un système de dépendances : capacités de calcul, énergie, réseaux, capitaux, données, outils, accès et autorisations. Ces dépendances deviennent des leviers de maîtrise lorsque les organisations les identifient et les gouvernent.
À mesure que l'IA gagne en capacité d'action, la place de l'humain se déplace vers l'architecture de la délégation : ce que la machine peut voir, recommander, décider, agir ou engager ; les seuils d'escalade ; les conditions d'interruption ; la responsabilité portée par une personne identifiable.
Face à une technologie qui évolue chaque jour et aux imaginaires que chacun projette sur elle, la décision constitue notre point d'appui.
Prendre l'alerte de Jacob Coxon au sérieux consiste à éprouver ce scénario aux côtés d'autres chemins : accélération, plateau technologique, fragmentation, normalisation économique ou durcissement politique.
Cette alerte rejoint celles qui l'ont précédée. D'autres suivront. Chacune mérite d'être accueillie, qualifiée et replacée dans un ensemble de possibles.
La peur alerte. La promesse mobilise. L'arbitrage reste humain.
L'avenir de l'IA forme un ensemble de trajectoires à instruire. Notre responsabilité consiste à choisir, borner et réviser celle que nous engageons.