Damien BERGER

Senior Manager

Dossier du moment

ÉTUDE

Étude sur les Directions de la Transformation : Résultats et Bonnes Pratiques

ARTICLE

Publié le

La montée en puissance de l’éthique dans les entreprises face à l’intelligence artificielle

Partager

L’évolution de l’éthique dans l’IA, de la transparence à la réglementation

L’éthique de l’intelligence artificielle (IA) n’est plus un simple débat théorique. Avec l’accélération des innovations technologiques et l’avènement de l’IA générative, les enjeux se déplacent vers des préoccupations réglementaires concrètes. En Europe, cela s’illustre avec l’arrivée de l’AI Act, qui doit entrer en vigueur en 2025. Ce cadre législatif place l’éthique au cœur des priorités, rendant son adoption incontournable pour les entreprises. Aujourd’hui, ignorer les risques éthiques liés à l’IA peut non seulement exposer à des sanctions juridiques mais aussi nuire gravement à la réputation d’une entreprise.

1. Risques réglementaires et légaux

L’AI Act impose aux entreprises opérant en Europe des règles strictes pour garantir que leurs systèmes d’IA respectent les droits fondamentaux, en particulier dans des secteurs comme les banques, les assurances et la santé. Prenons l’exemple des systèmes de scoring de crédit : ces modèles d’IA doivent non seulement prouver leur efficacité mais aussi démontrer leur équité en évitant toute discrimination fondée sur le genre ou l’origine ethnique. Une non-conformité à ces règles pourrait entraîner des amendes conséquentes, jusqu’à 35 millions d’euros ou 7 % du chiffre d’affaires mondial !

2. Risques de réputation et de confiance

Les entreprises négligeant l’éthique de l’IA risquent d’importantes crises de réputation. L’affaire Amazon en 2018, où un outil de recrutement basé sur l’IA a discriminé les femmes, est un exemple de dérive médiatisée ayant entraîné un abandon complet du projet. De tels incidents servent d’alarme pour les consommateurs et les employés, de plus en plus attentifs aux pratiques éthiques des entreprises. Une IA biaisée peut nuire durablement à l’image de marque, entraînant des coûts élevés liés à la rétention des clients et à la perte de confiance : utilisateurs, clients, partenaires, investisseurs, et autorités.

3. Impacts sur la performance des modèles et l’efficacité opérationnelle

L’éthique de l’IA a aussi un impact direct sur la performance opérationnelle. Les modèles biaisés ou mal conçus peuvent entraîner des résultats erronés, nuisant à la qualité des décisions. Prenons l’exemple d’une banque déployant un modèle de scoring pour évaluer la solvabilité des clients : un modèle biaisé pourrait écarter certains profils injustement, privant ainsi l’entreprise de clients potentiellement rentables. En revanche, un modèle équitable et transparent peut maximiser la performance en optimisant les opportunités commerciales, tout en réduisant les risques juridiques ou de défaut de crédit.

L’éthique de l’IA : des actions concrètes à adopter

Pour répondre aux exigences éthiques, les entreprises doivent intégrer des pratiques claires et mesurables, au-delà des engagements formels.

1. Mise en place de comités d’éthique IA

Les entreprises mettent en place différents types de comités d’éthique pour superviser l’utilisation de l’intelligence artificielle, adaptés à leur taille, leur secteur d’activité et leurs priorités stratégiques. Trois modèles principaux se distinguent : le comité consultatif externe, le comité interne opérationnel et le modèle hybride.

1.1 Comité consultatif externe et tourné vers l’extérieur : exemple d’Orange

Le Conseil d’éthique des données et de l’IA d’Orange illustre le modèle du comité principalement externe. Composé de 11 experts indépendants issus de domaines variés tels que l’éthique, le droit et les technologies, ce comité joue un rôle consultatif et stratégique. Il fournit des recommandations sur les pratiques éthiques de l’entreprise, définissant des lignes directrices pour une IA responsable axées sur l’équité et la transparence, tout en anticipant les évolutions futures du secteur. Bien qu’il ne s’implique pas directement dans les projets opérationnels, ses recommandations sont soumises à la direction pour validation, influençant ainsi la stratégie globale d’Orange. Ouvert vers l’extérieur, il peut être saisi par les clients externes comme par des collaborateurs du Groupe.

Orange

Orange

ActuIA

1.2 Comité interne et opérationnel : exemple de La Poste

Le Comité pour une IA de confiance de La Poste représente un modèle plus opérationnel. Il réunit des experts internes et des personnalités externes qui accompagnent les équipes dans la mise en œuvre de projets IA. Ce comité ne se contente pas de fixer des principes éthiques ; il intervient activement dans le déploiement des solutions et supervise le cycle de vie des projets pour garantir leur conformité avec la charte éthique du Groupe. La Poste veille ainsi à ce que les solutions déployées respectent des valeurs fondamentales telles que la non-discrimination et la protection des données, ayant un impact concret sur les projets opérationnels en validant la dimension éthique des processus avant leur mise en œuvre.

La Poste Groupe

IT SOCIAL

1.3 Comité hybride : Exemple de France Travail

Le Comité d’éthique en IA de France Travail combine des experts externes et des collaborateurs internes pour assurer une gouvernance éthique équilibrée. Intervenant à plusieurs niveaux, ce comité évalue les usages de l’IA pour s’assurer que les systèmes sont équitables, transparents et respectueux de la non-discrimination. Ce modèle hybride est particulièrement adapté aux entités publiques comme France Travail, car il permet une réflexion stratégique tout en restant proche des enjeux quotidiens liés à l’emploi. Le comité examine les projets en tenant compte des préoccupations des usagers et des conseillers, garantissant ainsi une approche éthique tout en maximisant l’efficacité opérationnelle.

ActuIA

ActuIA

2. Audits et tests réguliers pour détecter les biais

L’audit des systèmes d’IA et la détection des biais doivent être réalisés de manière régulière et structurée.

Dans le cadre de l’AI Act, un système d’IA peut être défini comme l’ensemble des éléments technologiques et organisationnels utilisés pour accomplir des tâches spécifiques grâce à l’intelligence artificielle.

Concrètement, un système d’IA repose sur trois piliers principaux :

  1. Artefacts technologiques : Cela inclut les modèles entrainés, les données et les cibles utilisées, et les pipelines d’exécution qui permettent à l’IA de fonctionner.
  2. Modalités de mise en œuvre : Ici, on analyse le rôle de l’humain dans le processus (supervision humaine jusqu’à complète automatisation), ainsi que les méthodes d’utilisation du système dans l’entreprise.
  3. Finalités métiers : Ce sont les populations et les objectifs pour lesquels l’IA est déployée.

L’audit ne doit pas se limiter à un contrôle ponctuel, mais suivre une approche itérative sur trois niveaux :

  1. Itération sur les outils mobilisés :
    L’audit peut commencer par des outils simples comme un tableau Excel, mais doit évoluer vers des solutions plus intégrées et collaboratives, telles que Naaia ou Credo.ai. Ces plateformes facilitent l’automatisation et la mise à jour continue des évaluations.
  2. Itération sur la granularité des éléments évalués :
    Les audits doivent se faire à plusieurs niveaux de granularité. D’abord, une analyse macroscopique des applications qui utilisent l’IA, en identifiant les finalités métiers et les artefacts associés. Ensuite, un zoom plus détaillé sur ces éléments permettra de comprendre comment l’IA est utilisée dans chaque cas d’usage spécifique. Cette approche granulaire permet de mieux identifier les biais éventuels, notamment dans les systèmes à haute criticité.
  3. Itération sur la granularité des risques :
    Les systèmes d’IA peuvent être classés en fonction de quatre niveaux de risques. Ensuite, des audits plus détaillés et réguliers se concentreront sur l’origine de ces risques ainsi que leur expression dans la chaine de valeur de l’entreprise concernée. Selon le secteur par exemple, deux systèmes d’IA similaires peuvent avoir une évaluation de risque différente.

3. Formation continue des équipes sur l’éthique de l’IA

Pour garantir une utilisation éthique et responsable de l’intelligence artificielle, la formation continue des équipes est cruciale. Cette formation ne doit pas se limiter à un apprentissage initial, mais doit s’inscrire dans une démarche itérative et régulière pour suivre l’évolution des réglementations, des technologies et des risques. L’objectif est d’équiper les équipes non seulement avec des compétences techniques, mais aussi avec une compréhension profonde des enjeux éthiques, réglementaires et opérationnels liés à l’IA.

Les principaux objectifs poursuivi incluent :

  1. Comprendre les lois et règlements encadrant l’IA : Les équipes doivent maîtriser les cadres réglementaires en constante évolution, tels que l’AI Act en Europe, les réglementations américaines, ainsi que les recommandations locales comme celles de la CNIL en France. Cela permet d’assurer que les systèmes d’IA développés ou utilisés par l’entreprise sont conformes aux exigences légales en vigueur, notamment en ce qui concerne la protection des données, la transparence et la non-discrimination.
  2. Cartographier et gérer les risques associés à l’IA : Les risques liés à l’IA vont bien au-delà des aspects purement techniques. Les équipes doivent être formées à identifier les risques liés aux données (qualité, représentativité, erreurs), aux algorithmes (biais, opacité) et aux usages (deepfakes, mauvaises décisions automatisées). La formation doit également couvrir les risques sociaux, éthiques et juridiques afin de minimiser les conséquences d’une utilisation non contrôlée de l’IA.
  3. Créer un cadre d’audit et de gouvernance : Il est essentiel de former les équipes à élaborer une feuille de route claire pour la gouvernance de l’IA, en intégrant les rôles de chaque acteur clé (CDO, DPO, Compliance Manager, etc.). Cela inclut la mise en place d’audits réguliers pour évaluer la conformité des systèmes d’IA, ainsi que des méthodes pour documenter et surveiller les modèles en continu. Les équipes doivent être capables de définir des politiques d’utilisation acceptable de l’IA et d’adapter les processus internes pour s’assurer que chaque projet d’IA respecte les principes éthiques et réglementaires.
  4. Promouvoir une IA éthique et responsable : La formation doit insister sur les principes fondamentaux de l’éthique de l’IA : justice, équité, transparence, inclusion, et respect des droits fondamentaux. Cela inclut des modules sur l’IA durable (IA verte) et les défis posés par la consommation énergétique des modèles. Les équipes doivent apprendre à évaluer l’impact éthique de leurs projets et à mettre en place des solutions pour éviter les biais ou discriminations dans les décisions algorithmiques.
  5. Améliorer l’explicabilité et la transparence des modèles d’IA : L’un des objectifs clés est de former les équipes à rendre les systèmes d’IA plus explicables et transparents, en documentant chaque étape du processus, des données utilisées aux limites des modèles. L’explicabilité est cruciale non seulement pour la conformité réglementaire, mais aussi pour renforcer la confiance des utilisateurs finaux et des parties prenantes. Des techniques comme le “sandboxing” peuvent être mises en œuvre pour tester et valider les modèles dans un environnement contrôlé avant leur déploiement.

L’éthique de l’IA, un levier de performance durable

L’éthique de l’IA n’est plus une option ; elle est devenue une nécessité stratégique. Elle permet aux entreprises de se conformer à des réglementations de plus en plus strictes, tout en garantissant leur pérennité sur le marché.

Les entreprises qui intègrent l’éthique au cœur de leurs pratiques auront un avantage concurrentiel certain, non seulement en termes de réputation, mais aussi de performance et de rentabilité à long terme.

En fin de compte, une IA responsable n’est pas seulement un gage de conformité, c’est un levier de croissance durable dans un environnement où la confiance et la transparence sont des critères de plus en plus déterminants.

Auteurs : Damien Berger

Damien BERGER

Senior Manager

Dossier du moment

ÉTUDE

Étude sur les Directions de la Transformation : Résultats et Bonnes Pratiques

Les contenus associés