Publications · Gouvernance
Gouvernance de l'IA au conseil d'administration
Je construis des produits d'intelligence artificielle et je siège dans des conseils d'administration. Vu du conseil, l'IA est d'abord une affaire de gouvernance, avant d'être une affaire de technologie.
Ce que le conseil supervise vraiment
Un conseil d'administration n'a pas à comprendre le fonctionnement d'un modèle de langage. Son rôle est de s'assurer que l'entreprise sait où elle utilise l'IA, pourquoi, avec quelles données et sous quel contrôle. La technologie relève de la direction ; le risque, la stratégie et la responsabilité relèvent du conseil.
Le glissement le plus courant consiste à traiter l'IA comme un sujet informatique délégué à un service. Dès qu'un outil prend ou prépare des décisions qui engagent l'entreprise — un crédit accordé, un dossier trié, une réponse envoyée à un client, un chiffre porté dans une déclaration — le sujet remonte au conseil.
Les questions à poser en séance
Quelques questions simples suffisent à révéler la maturité réelle d'une organisation :
- Où l'IA est-elle déjà utilisée dans l'entreprise, y compris hors du radar de la direction ?
- Quelles données entrent dans ces outils, d'où viennent-elles et où vont-elles ?
- Qui est responsable d'une décision prise ou préparée par une IA, et selon quel contrôle humain ?
- Quelle est notre dépendance à un fournisseur, et que se passe-t-il s'il change ses prix, ses conditions ou son modèle ?
- Mesurons-nous ce que ces outils rapportent vraiment, ou seulement ce qu'ils promettent ?
Un conseil qui pose ces questions apprend souvent que des outils sont déjà en usage sans cadre, et que personne ne pourrait dire précisément quelles données y transitent.
Les risques que le conseil doit cadrer
Les mêmes risques reviennent, et aucun n'est technique au fond. Des données sensibles envoyées vers un service tiers sans garantie, au regard du RGPD. Une IA qui se trompe avec assurance et qu'on laisse décider sans supervision. Une dépendance à un fournisseur qui devient un point de fragilité. Des biais qui exposent l'entreprise sur le plan réputationnel ou juridique. Et l'IA « de l'ombre », adoptée poste par poste sans que personne au sommet n'en ait la carte.
La conformité ne se délègue pas au service informatique
La réglementation européenne sur l'intelligence artificielle introduit des obligations échelonnées selon le niveau de risque des usages. Le conseil n'a pas à en maîtriser le détail, mais il doit savoir où les usages de l'entreprise se situent dans cette classification, et s'assurer que quelqu'un en porte clairement la responsabilité. Une conformité sans propriétaire au niveau de la direction est une conformité de façade.
Par où un conseil commence
Quatre gestes suffisent à passer d'une IA subie à une IA gouvernée : cartographier les usages réels, y compris informels ; nommer un responsable clair au niveau de la direction ; fixer une politique d'usage simple, qui dise ce qui est permis, avec quelles données et sous quel contrôle ; et inscrire l'IA à l'ordre du jour du conseil, au même titre que les risques financiers ou juridiques. Aucun de ces gestes ne demande une expertise technique ; tous demandent une décision de gouvernance.
Ce qu'apporte un administrateur qui a construit de l'IA
J'explore l'IA appliquée depuis 2018, quand j'ai fondé un assistant destiné aux avocats, construit sur les premiers grands modèles de langage. Je conçois et déploie des produits d'IA aujourd'hui. Cette expérience change la nature des questions qu'on pose au conseil : on distingue la démonstration séduisante de ce qui tient en production, on sait où les données manquent, on repère l'angle mort avant qu'il ne coûte cher. C'est cette lecture, plutôt qu'une expertise théorique, qui manque à beaucoup de conseils.
Si votre conseil s'interroge sur sa gouvernance de l'IA, écrivons-nous — voir aussi l'administrateur indépendant.