L’IA est puissante. Mal encadrée, elle est toxique. Et sa toxicité n’est pas un bug : elle est souvent le symptôme d’un manque de gouvernance.
En 2025, un algorithme mal calibré peut déclencher une crise de réputation mondiale en quelques heures. Aucun secteur n’est épargné. Aucun conseil d’administration ne peut s’en exonérer.
La plupart des dérives liées à l’IA ne sont pas dues à des défaillances techniques, mais à des angles morts éthiques ou organisationnels : un jeu de données non audité, un algorithme biaisé, un usage mal compris ou un consentement ignoré.
Le plus inquiétant ? Ces failles surviennent souvent non pas parce que les dirigeants sont malveillants… mais parce qu’ils ne posent pas les bonnes questions.
Voici un test express en 4 questions. À poser en CA. À challenger en comité stratégique. À inscrire dans vos documents de référence.
L’opacité est le premier facteur de défiance, et une source directe de risque éthique. Une IA qui fonctionne sur des données mal définies, non tracées ou sur des finalités floues est une IA qui échappe au contrôle. Or, ce que vous ne pouvez pas expliquer, vous ne pourrez pas défendre publiquement en cas de crise.
Points de vigilance :
- Provenance des données (interne, open data, fournisseurs tiers) documentée.
- Finalités clairement spécifiées : pour quelle tâche précise ? À quelle fréquence ?
- Typologie des données sensibles conforme au RGPD et encadrée par une politique claire.
Mise en pratique :
- Exigez la mise en place d’un registre centralisé des flux de données IA (accès CA + DPO).
- Implémentez un schéma de traçabilité qui relie chaque fonctionnalité IA à ses sources de données.
- Testez la capacité de l’entreprise à produire une fiche de transparence : 1 page, accessible au public, qui explique en langage clair ce que l’IA fait, avec quelles données, et pourquoi.
Outil recommandé : la méthode "Fact Sheet" issue de la recherche MIT-IBM sur l’IA responsable, une fiche standardisée pour décrire les systèmes d’IA comme on décrit un médicament ou un produit chimique.
Un algorithme apprend à partir des données qu’on lui fournit. S’il y a un biais dans les données, il y aura un biais dans les résultats. Et parfois, ces biais sont invisibles aux yeux des développeurs… mais lourds de conséquences sociales, juridiques et réputationnelles.
Points de vigilance :
- Données historiques biaisées (exclusion de genre, origine, localisation).
- Processus d’apprentissage non audité ou opaque.
- Absence de test d’équité ou de représentativité.
Mise en pratique :
- Intégrez une phase de testing éthique dans tout projet IA (équité, discrimination, robustesse).
- Impliquez un comité pluridisciplinaire dans l’analyse des cas limites ou effets de bord.
- Déployez une fonction d’alerte automatique sur les écarts de performance par population cible.
Outil recommandé : "Fairlearn" (Microsoft) ou "AI Fairness 360" (IBM), deux bibliothèques open source qui permettent de tester, visualiser et corriger les biais dans les modèles.
L’un des risques majeurs liés à l’IA n’est pas technique, mais social : faire sans, ou contre, les parties prenantes concernées. Même si la légalité est respectée, l’absence de consentement perçu ou de dialogue peut générer un rejet massif.
Points de vigilance :
- Données collectées à des fins initialement différentes.
- Absence de canal de recours ou d’explication compréhensible.
- Traitement automatisé sans information ni choix pour l’utilisateur.
Mise en pratique :
- Créez un processus de consentement contextuel : court, compréhensible, sans jargon.
- Offrez une option de retrait claire et accessible.
- Mettez en place un droit de questionner l’algorithme (par un contact humain désigné ou une interface claire).
Exemple inspirant : la stratégie "Explainable Consent" du NHS britannique — un modèle où chaque usage IA impliquant des patients est expliqué, contextualisé et consentementé.
Une IA sans gouvernance est une boîte noire. Elle peut fonctionner un temps. Mais à la première crise, tout le monde se défausse. Un CA responsable doit s’assurer qu’un système de redevabilité, de suivi et de vérification est en place.
Points de vigilance :
- Pas de référent IA identifié dans l’organisation.
- Décisions algorithmiques critiques sans revue humaine.
- Aucune vérification externe des systèmes sensibles.
Mise en pratique :
- Désignez un référent gouvernance IA (CDO, CIO, DPO…) avec un mandat clair.
- Demandez un audit externe tous les 12 à 18 mois sur les systèmes critiques.
- Intégrez l’IA comme point fixe dans les rapports de gestion du risque, au même titre que les risques cyber ou réglementaires.
Référence utile : la norme ISO/IEC 42001 (2023), première norme internationale de management des systèmes d’IA, un cadre précieux pour structurer votre pilotage interne.
Conclusion : l’éthique de l’IA commence au conseil
L’éthique n’est pas un supplément d’âme. C’est un levier de confiance. Et la confiance, aujourd’hui, est un actif stratégique.
Les CA qui anticipent ces 4 questions ne deviennent pas experts en machine learning. Mais ils deviennent responsables. Lucides. Alignés avec les attentes de leurs parties prenantes.
Ce qu’il faut retenir :
- Ce que vous ne pouvez pas expliquer, vous ne pourrez pas défendre.
- Ce que vous ne pouvez pas tester, vous ne pourrez pas améliorer.
- Ce que vous ne pouvez pas contester, vous ne pourrez pas légitimer.
- Ce que vous ne pouvez pas gouverner, vous finirez par le subir.
Une checklist à activer dès votre prochain CA :
- Avons-nous une cartographie claire des usages IA dans l’entreprise ?
- Un responsable de gouvernance IA est-il identifié ?
- Un audit indépendant a-t-il été mené sur les modèles sensibles ?
- Les utilisateurs peuvent-ils comprendre ce que fait l’algorithme ?
- Les biais ont-ils été testés… ou seulement supposés absents ?
Et vous, êtes-vous prêt à répondre à ces questions — avant qu’un journaliste, un client ou un régulateur ne le fasse pour vous ?