*Le 29 septembre, six dirigeants de l'intelligence artificielle ont signé à la Maison-Blanche un accord de sécurité volontaire ; le 4 octobre, Washington a créé une instance de coordination sans pouvoir de règle connu. Derrière l'actualité, une question plus ancienne que l'IA : que vaut un contrôle organisé par ceux qu'il contrôle ?*
Le point de départ
Comme nous l'avons raconté dans notre article d'actualité, Donald Trump a confié à Jay Clayton, directeur du renseignement national, la tête d'une « Super Intelligence Force » chargée de coordonner l'action fédérale sur l'IA. Cinq jours plus tôt, Anthropic, OpenAI, Google, Meta, xAI et Nvidia s'étaient engagés, sans obligation juridique, à mettre en place des contrôles internes, des équipes de vérification et des audits externes « indépendants ». Le président a résumé la philosophie de l'ensemble : beaucoup d'autorégulation.
Pourquoi cette question
L'accord ne dit pas que les entreprises sont dangereuses ni qu'elles sont fiables. Il dit autre chose : c'est à elles d'organiser la preuve de leur propre sécurité. Elles conçoivent les contrôles, choisissent de s'y soumettre, et devront sans doute choisir et payer leurs auditeurs.
Ce choix n'est pas absurde. Ceux qui construisent une technologie sont souvent les seuls à la comprendre en détail ; un régulateur extérieur arrive toujours après, avec moins d'ingénieurs et moins d'informations. Mais ils ont aussi un intérêt direct à ce que leur produit soit jugé sûr, et vite. La question n'est donc pas celle de leur bonne foi. Elle est structurelle : quand le savoir et l'intérêt se trouvent du même côté, qui peut dire, de façon crédible, que le risque est maîtrisé ?
Ailleurs, la même question
Dans la finance. Avant la crise de 2008, les agences de notation attribuaient leurs meilleures notes à des produits financiers adossés à des crédits immobiliers à risque. Elles étaient rémunérées par les émetteurs des produits qu'elles notaient. La commission d'enquête américaine sur la crise financière a désigné, dans son rapport de 2011, ces agences comme des rouages essentiels de l'effondrement. Le contrôle existait ; il était payé par le contrôlé.
Dans l'aviation. Aux États-Unis, l'administration de l'aviation civile délègue depuis longtemps une partie de la certification des avions à des employés des constructeurs eux-mêmes, faute de pouvoir tout vérifier seule. Après les deux accidents du Boeing 737 MAX, en 2018 et 2019, qui ont fait 346 morts, la commission des Transports de la Chambre des représentants a conclu en 2020 que ce système de délégation avait contribué à laisser passer une défaillance de conception.
Dans les laboratoires. La mort d'une technicienne de l'Institut antipeste d'Irkoutsk, que Le Phare a suivie avec prudence, rappelle que la sûreté des laboratoires manipulant des agents dangereux est, dans bien des pays, attestée d'abord par l'institution elle-même ou par l'administration dont elle dépend. Quand l'information vient de ceux qui sont responsables du risque, le public ne peut que la croire ou s'en méfier.
Et en Europe, pour l'IA. Le Code de bonnes pratiques européen est lui aussi volontaire. Mais il sert de manière de se conformer à une loi, et un office public en contrôle l'application. Le volontariat y est un chemin, pas une destination.
Une pensée pour regarder autrement
L'accord de Washington permet de tester une intuition de David Collingridge. En 1980, ce chercheur britannique formulait un dilemme : tant qu'une technologie est jeune, on peut encore l'orienter, mais on ignore ses effets ; quand ses effets deviennent visibles, elle est déjà trop installée pour être contrôlée facilement.
L'autorégulation peut se lire comme une réponse au premier temps du dilemme : puisque seuls les développeurs savent, laissons-les définir les contrôles. Confrontée aux faits, l'intuition se complique. Les modèles de ces six entreprises sont déjà utilisés à très grande échelle ; ils ne sont plus tout à fait au stade où l'on ignore leurs effets. On semble ici dans le second temps, celui où la technologie est installée, mais avec les outils du premier, où l'on s'en remet à ceux qui savent. Le dilemme de Collingridge n'interdit pas l'autorégulation. Il invite à se demander à quel moment elle cesse d'être une solution d'attente.
Ce qui résiste
La question ne se tranche pas d'un bloc. D'abord, l'autorégulation n'échoue pas toujours : des professions entières, comme la médecine, reposent en partie sur des règles que leurs membres se donnent et font respecter. Ensuite, un régulateur public n'est pas infaillible : il peut manquer de moyens, de compétences, ou subir l'influence de ceux qu'il surveille. La délégation aéronautique existait précisément parce que l'administration ne pouvait pas tout vérifier.
Enfin, l'accord du 29 septembre prévoit des auditeurs externes. Si leur indépendance est réelle, et leurs conclusions publiques, le dispositif pourrait se révéler plus solide que son caractère volontaire ne le laisse penser. À ce stade, rien ne permet de le dire : ces auditeurs n'ont pas encore été désignés.
Ce que nous pouvons en retenir
Face à tout dispositif d'autorégulation, quatre questions simples aident à juger sur pièces :
- Qui contrôle ? Une équipe interne, un auditeur externe, une autorité publique ?
- Qui paie le contrôleur ? Un contrôle financé par le contrôlé n'est pas nul, mais il doit être regardé de plus près.
- Qui voit les résultats ? Un audit que personne ne lit ne protège que celui qui l'a commandé.
- Que se passe-t-il en cas de manquement ? Sans conséquence, un engagement reste une promesse.
La question laissée ouverte
La finance et l'aviation ont fini par renforcer les contrôles extérieurs, mais après les dégâts. L'IA suivra-t-elle le même chemin, ou saura-t-on rendre l'autorégulation crédible avant qu'un accident ne l'impose ? Une question demeure, au cœur de chacun de ces domaines : à partir de quand un contrôle payé par celui qu'il contrôle cesse-t-il d'être indépendant ?
—
Repères de sources
- Source : Al Jazeera — Trump, tech bosses sign voluntary pact pledging 'robust' AI safeguards (29 septembre 2026)
- Source : Financial Crisis Inquiry Commission — The Financial Crisis Inquiry Report (janvier 2011)
- Source : House Committee on Transportation and Infrastructure — Final Committee Report on the Boeing 737 MAX (septembre 2020)
La question suivante
À partir de quand un contrôle payé par celui qu'il contrôle cesse-t-il d'être indépendant ?
Pour aller plus loin
- Washington crée une « Super Intelligence Force » : un tsar de l'IA, mais toujours pas de règle
- Code of Practice GPAI : l'Europe entre signature volontaire et compte à rebours du 2 août 2026
- David Collingridge (1980) : le dilemme du contrôle technologique — réguler tôt sans comprendre ou comprendre tard sans pouvoir réguler
- Irkoutsk : une technicienne morte d'une peste suspectée, et la question du risque en laboratoire
Sur le Sentier du Savoir
