Qu'est-ce que les AI Model Cards ? Des étiquettes nutritionnelles pour les systèmes d'IA

Turn this article into takeaways for your work.
Each assistant summarizes the article only for you and suggests best practices for your work.
Vous ne commercialiseriez pas un médicament sans indiquer sa composition, sa posologie et ses effets secondaires. Pourquoi déployer une IA sans documenter ses capacités, ses limites et ses risques ? Les AI Model Cards offrent une documentation de transparence standardisée : elle aide les parties prenantes à comprendre les systèmes d'intelligence artificielle, à décider en connaissance de cause de leur usage et à établir la responsabilité du déploiement de l'IA.
Définir les AI Model Cards
Les AI Model Cards sont des documents structurés qui décrivent les caractéristiques d'un modèle de machine learning, son usage prévu, ses limites, ses indicateurs de performance, ses enjeux éthiques et d'autres informations utiles. Introduites en 2019 par des chercheurs de Google, elles apportent aux systèmes d'IA une transparence standardisée, à la manière des étiquettes nutritionnelles des produits alimentaires.
Selon l'article fondateur de Mitchell et al., « les model cards sont de courts documents qui accompagnent les modèles de machine learning entraînés et fournissent une évaluation comparative dans des conditions variées, par exemple selon les groupes culturels, démographiques ou phénotypiques, et les groupes intersectionnels pertinents pour les domaines d'application visés ».
Les model cards sont apparues à mesure que les systèmes d'IA se multipliaient dans tous les secteurs, alors que leurs capacités, leurs limites et leurs cas d'usage appropriés restaient opaques pour les non-spécialistes, ce qui créait des risques.
L'enjeu pour l'entreprise
Pour les dirigeants, les model cards constituent votre couche de transparence sur l'IA : elles renforcent la confiance des parties prenantes, démontrent des pratiques d'IA responsable et réduisent l'exposition juridique en documentant précisément ce que votre IA peut et ne peut pas faire.
Pensez aux model cards comme à des fiches produit. De même que vous fournissez les caractéristiques techniques des produits que vous vendez, les model cards documentent les capacités de l'IA. Vous êtes ainsi protégé sur le plan juridique (les limites ont été communiquées), opérationnel (les utilisateurs savent comment s'en servir) et réputationnel (vous montrez votre engagement de transparence).
Concrètement, les model cards permettent des décisions d'achat éclairées, facilitent la conformité aux exigences émergentes de gouvernance de l'IA, simplifient les audits réalisés par des tiers et fournissent la documentation nécessaire aux dossiers réglementaires.
Les sections essentielles d'une model card
Voici les composantes essentielles d'une model card complète :

• Détails du modèle : développeurs, version, type (par exemple grand modèle de langage, vision par ordinateur), architecture, date de publication, licence
• Usage prévu : cas d'usage principaux, utilisateurs visés, usages hors périmètre à éviter, applications interdites
• Données d'entraînement : caractéristiques du jeu de données, taille, méthodes de collecte, prétraitement, limites connues ou problèmes de biais dans l'IA
• Indicateurs de performance : exactitude, précision, rappel, scores F1, performance selon les groupes démographiques, comparaisons avec des benchmarks
• Limites : modes de défaillance connus, cas limites, scénarios de performance dégradée, seuils de confiance, quantification de l'incertitude
• Enjeux éthiques : résultats des tests d'équité, implications pour la vie privée, impact environnemental, conséquences négatives possibles
• Recommandations : bonnes pratiques de déploiement, supervision human-in-the-loop requise, exigences de monitoring, fréquence de mise à jour
Les standards de model cards
Plusieurs démarches de standardisation émergent :

Model Card Toolkit de Google :
- Framework open source pour générer des model cards
- Modèles de documents pour les types de modèles courants
- Schéma JSON pour des cartes lisibles par machine
- Intégration avec les plateformes de ML
- Exemple : les modèles TensorFlow incluent des cartes générées
Model Cards de Hugging Face :
- Obligatoires pour tous les modèles de la plateforme
- Frontmatter YAML standardisé + markdown
- Vérification automatisée de l'exhaustivité
- Notation par la communauté selon la qualité de la documentation
- Exemple : plus de 500 000 modèles documentés
Model Cards VerifyML :
- Axées sur la conformité des services financiers
- Indicateurs d'équité renforcés
- Sections d'alignement réglementaire
- Intégration de la traçabilité avec l'audit trail de l'IA
- Exemple : utilisées par de grandes banques pour la gestion du risque de modèle
Model Cards pour l'IA en santé :
- Extensions CONSORT-AI et SPIRIT-AI
- Résultats de validation clinique
- Caractéristiques de la population de patients
- Statut d'autorisation réglementaire
- Exemple : les dossiers soumis à la FDA incluent des model cards
Convergence du secteur : Des organisations comme Partnership on AI et le NIST travaillent à des standards de model cards unifiés, applicables à tous les secteurs.
Exemples concrets de model cards
Voici comment des organisations de référence utilisent les model cards :

Model Cards GPT d'OpenAI : la documentation détaillée des modèles GPT couvre les capacités (génération de texte, traduction), les limites connues (erreurs factuelles, biais), les consignes d'usage (création de contenu approuvée, conseil juridique déconseillé) et les mesures de sécurité. Elle instaure la confiance et cadre les attentes de millions d'utilisateurs de l'API.
Model Card de l'API Google Cloud Vision : elle documente le modèle de détection faciale avec des indicateurs de performance selon les teintes de peau et les genres, signale les écarts de performance passés (exactitude plus faible pour les peaux plus foncées) et les améliorations apportées. Elle témoigne ainsi d'un engagement en faveur de l'équité et permet aux clients de décider de leur déploiement en connaissance de cause.
Model Cards Einstein de Salesforce : les fonctionnalités d'IA du CRM s'accompagnent de model cards qui décrivent les types de prédiction, la qualité de données requise, le niveau d'exactitude attendu, les résultats des tests d'équité et la configuration à prévoir côté client. Elles soutiennent les obligations d'IA explicable et la confiance des clients.
Model Cards IBM Watson Health Imaging : les modèles d'IA médicale y documentent les études de validation clinique, la performance selon les populations de patients, la comparaison avec des radiologues, les modes de défaillance connus et les autorisations réglementaires, des éléments indispensables aux achats des établissements de santé et à la conformité FDA.
Le processus d'élaboration d'une model card
Comment produire une documentation efficace :

Phase 1 : développement du modèle
- Documenter les décisions pendant le développement, pas après
- Suivre les caractéristiques du jeu de données et les choix de curation
- Consigner les décisions d'architecture et leur justification
- Comparer les performances sur des jeux de test variés
- Documenter les problèmes connus au fil de leur découverte
Phase 2 : validation et tests
- Tester la performance selon les groupes démographiques
- Calculer les indicateurs d'équité
- Tester les cas limites et les attaques adverses via le red teaming de l'IA
- Réaliser des audits de biais et mettre en place des mesures correctives
- Évaluer l'impact environnemental
Phase 3 : contributions des parties prenantes
- Revue par des experts du domaine
- Consultation des communautés concernées
- Revue juridique et conformité
- Évaluation par le comité d'éthique
- Prise en compte des retours des clients et des utilisateurs
Phase 4 : documentation
- Remplir toutes les sections de la model card
- Employer un langage accessible (éviter l'excès de jargon)
- Ajouter des visualisations pour les indicateurs complexes
- Fournir des exemples d'usages appropriés et inappropriés
- Renvoyer vers la documentation technique pour le détail
Phase 5 : publication et maintenance
- Publier en même temps que le déploiement du modèle
- Versionner les model cards en suivant les versions du modèle
- Mettre à jour à mesure que les données de performance s'accumulent
- Réviser si les cas d'usage évoluent
- Archiver les versions précédentes
Les bénéfices des model cards
La valeur apportée à chaque catégorie de parties prenantes :
Pour les développeurs :
- Obligation de documenter les décisions de conception
- Transmission facilitée des connaissances dans l'équipe
- Appui au débogage et à l'amélioration
- Preuve de diligence
Pour les déployeurs :
- Décisions d'achat éclairées
- Adéquation entre le modèle et le cas d'usage
- Évaluation des risques avant le déploiement
- Préparation de l'intégration (monitoring, supervision)
Pour les régulateurs :
- Revue de conformité standardisée
- Transparence sur les capacités de l'IA
- Base pour les audits et les contrôles
- Comparaison avec les bonnes pratiques du secteur
Pour les utilisateurs finaux :
- Comprendre les limites de l'IA
- Calibrer le niveau de confiance à lui accorder
- Connaître les biais possibles
- Consentement éclairé pour les décisions assistées par l'IA
Pour les organisations :
- Démontrer leur engagement en faveur d'une IA responsable
- Réduire l'exposition juridique grâce à la transparence
- Rendre la gouvernance de l'IA viable à grande échelle
- Bâtir la confiance des parties prenantes
Model cards et pratiques voisines
Des approches de documentation complémentaires :

Model cards et datasheets :
- Model cards : documentent le modèle entraîné
- Datasheets : documentent le jeu de données d'entraînement
- Lien : les datasheets alimentent la section sur les données d'entraînement de la model card
- Exemple : la datasheet d'ImageNet est référencée dans la model card d'un modèle de vision
Model cards et FactSheets :
- Model cards : documentation avant tout technique
- FactSheets : documentation de responsabilité plus large (approche d'IBM)
- Lien : les FactSheets incluent les model cards et ajoutent des informations de gouvernance
- Exemple : une FactSheet couvre la model card, le processus d'approbation et le monitoring
Model cards et évaluations d'impact :
- Model cards : décrivent les capacités et les limites du modèle
- Évaluations d'impact : analysent les effets sur la société et les parties prenantes
- Lien : les évaluations d'impact alimentent la section sur les enjeux éthiques
- Exemple : une évaluation d'impact de l'IA nourrit la model card
Ces trois pratiques gagnent à être intégrées dans une documentation d'IA complète.
Les difficultés courantes
Problèmes fréquents et solutions :
• Documents incomplets : sections laissées vides ou superficielles → Solution : vérification automatisée de l'exhaustivité et revue par les pairs obligatoire dans les pipelines MLOps
• Jargon technique : une documentation inaccessible aux parties prenantes → Solution : des synthèses en langage clair, avec le détail technique en annexe
• Documentation figée : les model cards ne suivent pas l'évolution des modèles → Solution : contrôle de version et déclencheurs de mise à jour dans le workflow de déploiement
• Indicateurs arrangés : seules les données de performance favorables sont présentées → Solution : exigences de benchmark standardisées et validation par un tiers
• Modèle unique pour tous : des gabarits génériques, non adaptés au cas d'usage → Solution : standards de model cards propres à chaque secteur (santé, finance, etc.)
Le cadre réglementaire
Les model cards dans les dispositifs de conformité :
Exigences de l'EU AI Act :
- Les systèmes d'IA à haut risque doivent fournir une documentation de transparence
- Les model cards répondent à une grande partie des exigences de documentation technique
- Les informations requises correspondent aux sections d'une model card
- Sanctions en cas de non-conformité : jusqu'à 3 % du chiffre d'affaires mondial
Loi new-yorkaise sur les outils automatisés de décision en matière d'emploi :
- Les résultats des audits de biais doivent être accessibles au public
- Les model cards offrent un format de publication standardisé
- La section sur les indicateurs d'équité répond aux exigences légales
- Mise à jour annuelle obligatoire
Dispositifs médicaux FDA fondés sur l'IA/ML :
- Les dossiers de protocole de modification d'algorithme incluent des informations sur le modèle
- Les model cards structurent la documentation requise
- La performance selon les populations est exigée
- Monitoring et mises à jour continus imposés
Gestion du risque de modèle dans les services financiers (SR 11-7) :
- La validation des modèles exige une documentation exhaustive
- Les model cards fournissent un format standardisé
- La section sur les limites est essentielle à l'évaluation des risques
- Revue et mises à jour périodiques exigées
Mettre en place une pratique de model cards
Feuille de route de mise en œuvre :
Étape 1 : fixer les standards (mois 1)
- Choisir le modèle ou le format de model card
- Définir les exigences propres à l'organisation au-delà du standard
- Intégrer la démarche au cycle de vie du développement de l'IA
- Créer le processus de revue et d'approbation
Étape 2 : programme pilote (mois 2 à 3)
- Sélectionner 3 à 5 modèles pour les premières model cards
- Former les équipes aux exigences de documentation
- Générer les cartes et recueillir les retours
- Affiner les gabarits et les processus
Étape 3 : passage à l'échelle (mois 4 à 6)
- Exiger une model card pour tout nouveau modèle
- Rattraper les cartes manquantes des modèles déjà en production
- Automatiser la génération des cartes dès que possible
- Mettre en place des processus d'assurance qualité
Étape 4 : intégration (mois 7 à 12)
- Relier les model cards aux workflows de gouvernance de l'IA
- Intégrer les cartes aux registres et catalogues de modèles
- Publier des cartes accessibles au public pour les IA exposées aux clients
- Instaurer des processus réguliers de mise à jour et de maintenance
Étape 5 : maturité (en continu)
- Amélioration continue de la documentation
- Participation aux benchmarks du secteur
- Contribution de la communauté aux standards
- Reconnaissance comme référence en matière de transparence
L'avenir des model cards
Tendances émergentes :
- Model cards dynamiques : mises à jour automatiques à partir des données de performance en production
- Model cards interactives : les parties prenantes interrogent la carte sur des points précis
- Cartes multilingues : accessibles à travers les langues et les cultures
- Cartes vérifiées : attestation de leur exactitude par un tiers
- Standardisation : convergence des formats entre secteurs et régulateurs
- Lisibilité par machine : contrôle de conformité et comparaison automatisés
Les organisations ont intérêt à mettre en place des systèmes de model cards extensibles pour se préparer à ces évolutions.
Votre stratégie de model cards
Bâtir une transparence complète sur l'IA :
- Commencer par une politique de gouvernance de l'IA qui impose la documentation
- Mettre en œuvre l'IA explicable pour alimenter les model cards
- Réaliser une évaluation d'impact de l'IA pour les enjeux éthiques
- Établir un processus MLOps qui intègre la génération des cartes
Pour aller plus loin
Explorez les notions voisines de transparence et de gouvernance de l'IA :
- IA explicable - Rendre les décisions de l'IA interprétables pour alimenter les model cards
- Gouvernance de l'IA - Définir les politiques et standards de model cards
- Biais dans l'IA - Traiter les indicateurs d'équité dans les model cards
- Évaluation d'impact de l'IA - Évaluer les risques documentés dans les cartes
Ressources externes
- Hugging Face Model Cards - Standardisation sur la plateforme
- Partnership on AI - Standards et bonnes pratiques du secteur
Questions fréquentes sur les AI Model Cards
Qu'est-ce que les AI Model Cards ?
Les AI Model Cards sont des documents structurés qui décrivent les caractéristiques d'un modèle de machine learning, son usage prévu, ses limites, ses indicateurs de performance, ses enjeux éthiques et d'autres informations utiles. Elles apportent aux systèmes d'IA une transparence standardisée, à la manière des étiquettes nutritionnelles des produits alimentaires.
Quelles sont les sections essentielles d'une AI Model Card ?
Détails du modèle (développeurs, version, type), usage prévu (cas d'usage et applications interdites), données d'entraînement (caractéristiques du jeu de données), indicateurs de performance (exactitude selon les groupes), limites (modes de défaillance), enjeux éthiques (équité et vie privée) et recommandations (bonnes pratiques de déploiement).
Qui doit créer les model cards ?
Les model cards doivent être rédigées par les équipes de développement de l'IA, avec l'apport d'experts du domaine, des communautés concernées, des équipes juridiques et conformité, des comités d'éthique et des utilisateurs potentiels. La documentation commence pendant le développement et s'affine grâce à la validation et à la revue des parties prenantes.
Quelle est la différence entre model cards et datasheets ?
Les model cards documentent le modèle d'IA entraîné (capacités, performance, limites). Les datasheets documentent le jeu de données d'entraînement (méthodes de collecte, composition, biais). Les datasheets alimentent la section sur les données d'entraînement des model cards. Ce sont deux pratiques de transparence complémentaires.
Les model cards sont-elles obligatoires légalement ?
Cela dépend de la juridiction et du secteur. L'EU AI Act exige une documentation technique pour l'IA à haut risque (les model cards répondent à une grande partie des exigences). New York impose la publication d'audits de biais pour les IA de recrutement. La FDA attend une documentation pour l'IA médicale. Les services financiers doivent documenter leurs modèles. Ces exigences se multiplient dans le monde entier.
À quelle fréquence faut-il mettre à jour les model cards ?
Les model cards doivent être versionnées en même temps que les modèles. Une mise à jour s'impose quand le modèle est réentraîné, que ses caractéristiques de performance changent, que de nouveaux cas d'usage apparaissent, que des limites sont découvertes ou qu'une réglementation l'exige. Une revue annuelle au minimum constitue une bonne pratique.
Fait partie de la [Collection AI Terms]. Dernière mise à jour : 2026-02-09

Co-Founder, Rework.com
On this page
- Définir les AI Model Cards
- L'enjeu pour l'entreprise
- Les sections essentielles d'une model card
- Les standards de model cards
- Exemples concrets de model cards
- Le processus d'élaboration d'une model card
- Les bénéfices des model cards
- Model cards et pratiques voisines
- Les difficultés courantes
- Le cadre réglementaire
- Mettre en place une pratique de model cards
- L'avenir des model cards
- Votre stratégie de model cards
- Pour aller plus loin
- Ressources externes