AIPD pour l'intelligence artificielle : guide pratique

Quand un système d'IA nécessite-t-il une AIPD

L'article 35, paragraphe 1, du RGPD impose une AIPD lorsqu'un traitement, notamment s'il repose sur de nouvelles technologies, est susceptible d'engendrer un risque élevé pour les droits et libertés des personnes physiques, compte tenu de sa nature, de sa portée, de son contexte et de ses finalités.

L'article 35, paragraphe 3, cite notamment trois cas : l'évaluation systématique et approfondie d'aspects personnels fondée sur un traitement automatisé — y compris le profilage — sur laquelle se basent des décisions produisant des effets juridiques ou similaires ; le traitement à grande échelle de catégories particulières de données ou de données pénales ; et la surveillance systématique à grande échelle d'une zone accessible au public.

En intelligence artificielle, les critères de risque s'accumulent souvent : profilage, prédiction, croisement de sources, personnes vulnérables, données sensibles, surveillance, usage innovant, grande échelle, ou décisions conditionnant l'emploi, le crédit, l'éducation, la santé ou l'accès à des services. Il n'est pas nécessaire d'attendre que le système soit classé « haut risque » par l'AI Act : dès lors que le traitement de données peut générer un risque élevé au sens du RGPD, l'AIPD est obligatoire.

À l'inverse, tout système relevant des catégories à haut risque de l'AI Act n'impose pas automatiquement une AIPD. S'il ne traite pas de données à caractère personnel, le RGPD peut ne pas s'appliquer. S'il en traite, le responsable du traitement doit conduire sa propre analyse au titre de l'article 35 et au regard des listes et critères publiés par l'autorité de contrôle.

La décision de ne pas réaliser d'AIPD doit également être documentée. Elle doit expliquer le traitement analysé, les critères pris en compte, les mesures déjà en place, la date et la personne ayant approuvé la conclusion.

AIPD, évaluation de conformité et analyse d'impact sur les droits fondamentaux

Ce sont des outils liés entre eux, mais non interchangeables :

L'article 27 de l'AI Act prévoit que, lorsque les obligations de l'analyse d'impact sur les droits fondamentaux sont déjà couvertes par une AIPD, l'AIDF vient la compléter. La solution la plus efficace consiste en un dossier coordonné, avec un inventaire commun du système, des données, des personnes, des décisions, des risques et des mesures, tout en conservant la traçabilité de l'exigence couverte par chaque document.

Étape 1. Délimiter le traitement réel

L'unité d'analyse n'est pas seulement le modèle. Il faut décrire le traitement dans son ensemble :

• finalité métier et décisions qu'il appuie ou qu'il prend ;
• personnes concernées, y compris celles qui ne sont pas utilisatrices ;
• données d'entrée, inférées, générées et journalisées ;
• sources, licéité, qualité et durées de conservation ;
• entraînement, validation, inférence, surveillance et réentraînement ;
• destinataires, sous-traitants, sous-traitants ultérieurs et transferts ;
• intégration avec d'autres systèmes et action engagée en aval ;
• intervention humaine et voies de réclamation.

Un même modèle peut s'intégrer dans des traitements distincts. Un classificateur destiné à prioriser des documents administratifs ne présente pas les mêmes risques que ce même composant appliqué à des candidatures d'emploi.

Il est utile de cartographier un flux depuis la collecte jusqu'à la suppression. Chaque étape doit indiquer la donnée, la finalité, le système, l'acteur, la localisation, l'accès, la sortie et la preuve associée. Les zones d'ombre — télémétrie du fournisseur, conservation des prompts ou utilisation à des fins d'amélioration — constituent des points à résoudre, non des cases que l'on peut laisser vides.

Étape 2. Confirmer la finalité, la base juridique et la transparence

La finalité doit être déterminée et compréhensible. « Améliorer le service grâce à l'IA » ne permet ni d'apprécier la nécessité, ni d'informer correctement les personnes. Mieux vaut : « prioriser les demandes entrantes pour réduire le délai d'attribution, sans décider de leur acceptation ».

Chaque opération nécessite une base juridique au titre de l'article 6 du RGPD. En présence de catégories particulières de données, une exception de l'article 9, paragraphe 2, est également requise. L'intérêt légitime suppose d'identifier l'intérêt poursuivi, de démontrer sa nécessité et de le mettre en balance avec les droits des personnes ; le contrat ne couvre que ce qui est objectivement nécessaire ; le consentement doit être libre, spécifique, éclairé et univoque.

L'AIPD doit vérifier les informations prévues aux articles 13 et 14 et, le cas échéant, les exigences relatives aux décisions automatisées. L'explication n'a pas à révéler de secrets d'affaires, mais elle doit permettre de comprendre quelles données influencent le résultat, à quoi sert la sortie produite, quelles conséquences elle peut avoir, et comment la contester.

Étape 3. Évaluer la nécessité et la proportionnalité

Avant de calculer les risques, il faut démontrer que le traitement est justifié. Pour chaque donnée, inférence et fonction, il convient de se demander :

1. Contribue-t-elle de façon démontrable à la finalité ?
2. Existe-t-il une alternative moins intrusive ?
3. Le gain obtenu compense-t-il l'atteinte occasionnée ?
4. Peut-on réduire la précision, la fréquence, la population ou la conservation ?
5. La décision peut-elle rester entre les mains d'une personne ?

Un système techniquement précis peut néanmoins être disproportionné. Par exemple, capter en continu une localisation pour vérifier une action ponctuelle peut excéder ce qui est nécessaire, même si la donnée est exacte.

La minimisation s'applique aussi aux variables dérivées, aux journaux, aux embeddings et aux explications. Il faut éviter les proxys permettant de reconstituer des catégories sensibles. La conservation se fixe par finalité et par composant ; on n'applique pas le délai le plus long à l'ensemble du système.

Étape 4. Identifier les impacts sur les personnes

L'AIPD protège des droits et des libertés, pas uniquement des bases de données. L'inventaire doit envisager :

• exclusion injustifiée d'une opportunité ou d'un service ;
• discrimination directe, indirecte ou par variable proxy ;
• perte de contrôle, surveillance ou effet dissuasif ;
• révélation de données sensibles ou d'inférences intimes ;
• erreur d'identité et difficulté à la corriger ;
• manipulation, perte d'autonomie ou traitement dégradant ;
• absence de recours faute d'explication ou de canal effectif ;
• fraude, usurpation, préjudice économique ou réputationnel ;
• effet cumulatif des erreurs sur des groupes vulnérables.

Chaque scénario se formule avec une cause, un événement, une personne concernée et une conséquence. « Fuite de données » est trop générique ; « un fournisseur réutilise des conversations de patients pour améliorer un service, et du personnel non autorisé en déduit des informations cliniques » permet de concevoir des contrôles concrets.

Étape 5. Évaluer le risque initial

L'évaluation combine probabilité et gravité du point de vue de la personne concernée. La gravité tient compte de l'intensité, de la durée, de la réversibilité, du nombre de domaines affectés et de la vulnérabilité. La probabilité analyse l'exposition, la motivation d'éventuels attaquants, la fréquence, la complexité et les contrôles déjà en place.

Il ne faut pas tout ramener à une moyenne. Un événement peu probable mais au dommage irréversible peut imposer de renoncer à l'opération. Il est utile de consigner l'incertitude et la qualité de la preuve : données historiques, tests internes, littérature, audits, ou simple estimation.

Une matrice minimale contient :

Étape 6. Concevoir des mesures rattachées à chaque risque

Une liste générique de chiffrement et de formation ne suffit pas. Chaque mesure doit préciser quel scénario elle réduit, son responsable, son échéance, sa preuve, son efficacité attendue et le risque résiduel qui en découle.

Mesures sur les données

• exclure les variables non nécessaires et les proxys injustifiés ;
• séparer les identifiants et appliquer une pseudonymisation ;
• contrôler la provenance, l'exactitude et la représentativité ;
• fixer une conservation différenciée et un effacement vérifiable ;
• empêcher tout usage secondaire par les fournisseurs sans base ni autorisation.

Mesures sur le modèle

• évaluer la performance par groupes pertinents et par types d'erreur ;
• documenter les limites, la population visée et les usages interdits ;
• calibrer les seuils selon le coût de chaque erreur ;
• tester la dérive et la dégradation ;
• éviter les inférences non nécessaires à la finalité.

Mesures sur la décision

• réserver les décisions significatives à du personnel compétent ;
• afficher les sources, l'incertitude et les facteurs pertinents ;
• empêcher l'acceptation automatique par défaut ;
• permettre la correction, les observations et la contestation ;
• consigner quand une personne a modifié le résultat, et pourquoi.

Mesures de sécurité et fournisseur

• permissions minimales, authentification, chiffrement et journalisation ;
• tests d'injection, d'extraction et d'isolation entre clients ;
• contrats de l'article 28 et contrôle des sous-traitants ultérieurs ;
• régions de traitement, transferts et mesures supplémentaires ;
• plan de gestion des incidents et capacité à restituer les preuves.

Étape 7. Consultation, DPO et approbation

Le DPO doit être consulté lorsqu'il est désigné, mais la responsabilité de l'AIPD incombe au responsable du traitement. Doivent y participer les métiers, la fonction protection des données, la sécurité, l'équipe technique, les achats, les responsables de processus et, lorsque cela est pertinent, les personnes concernées ou leurs représentants.

Consulter ne signifie pas transférer la décision au fournisseur. Le déployeur connaît la finalité et le contexte, et doit questionner la documentation, les indicateurs et les limites présentés.

L'approbation doit identifier les risques acceptés, leur propriétaire et sa justification. Si, après application des mesures, un risque élevé résiduel subsiste sans pouvoir être raisonnablement atténué, l'article 36 impose une consultation préalable de l'autorité de contrôle avant tout traitement.

Étape 8. Réviser tout au long du cycle de vie

L'AIPD ne s'achève pas au lancement. L'article 35, paragraphe 11, impose une révision lorsque le risque évolue. En intelligence artificielle, doivent déclencher une révision :

• un nouveau modèle, une nouvelle version ou un nouveau fournisseur ;
• un changement de finalité ou de population ;
• de nouvelles sources ou catégories de données ;
• une autonomie ou une intégration accrue ;
• une dérive, des incidents ou des réclamations ;
• des évolutions réglementaires ou de contexte ;
• des résultats inégaux persistants.

Les indicateurs opérationnels se rattachent aux risques identifiés : faux positifs par groupe, décisions annulées, réclamations, accès indus, délai de correction et décisions automatisées bloquées.

Plan de travail sur 30 jours

Semaine 1 : périmètre

• désigner un responsable et une équipe ;
• décrire la finalité et la décision ;
• cartographier les données, acteurs et flux ;
• décider et documenter si une AIPD s'impose.

Semaine 2 : nécessité et risque

• confirmer les bases juridiques et la transparence ;
• évaluer les alternatives moins intrusives ;
• formuler les scénarios d'impact ;
• évaluer le risque initial et la preuve associée.

Semaine 3 : mesures et tests

• attribuer des contrôles aux risques ;
• exécuter des tests fonctionnels, de biais, de confidentialité et de sécurité ;
• revoir le fournisseur, les contrats et les transferts ;
• calculer le risque résiduel.

Semaine 4 : décision

• recueillir l'avis du DPO ;
• coordonner AIPD, AIDF et évaluation de conformité lorsque nécessaire ;
• approuver, restreindre ou arrêter le déploiement ;
• fixer la surveillance et la date de révision.

Checklist d'une AIPD défendable

• Le traitement, pas seulement le modèle, décrit de bout en bout.
• Les critères d'obligation et la décision documentés.
• La finalité, les bases juridiques et les exceptions de l'article 9 identifiées.
• La nécessité et les alternatives moins intrusives évaluées.
• Des scénarios centrés sur les conséquences pour les personnes.
• La probabilité, la gravité, l'incertitude et la preuve consignées.
• Des mesures rattachées à chaque risque, avec responsable et preuve.
• Une intervention humaine effective et des voies de contestation.
• Les fournisseurs, transferts et le cycle de vie complet inclus.
• Le risque résiduel approuvé, ou une consultation préalable engagée.
• La surveillance et les déclencheurs de révision définis.

Questions fréquentes

Tout système d'IA nécessite-t-il une AIPD ?

Non. Elle est requise lorsque le traitement est susceptible d'engendrer un risque élevé. La décision elle-même doit être analysée et documentée.

Être à haut risque au sens de l'AI Act impose-t-il automatiquement d'en réaliser une ?

Pas automatiquement : ce sont des notions et des périmètres distincts. Mais de nombreux usages à haut risque traitent des données personnelles de façon intensive et rempliront probablement les critères de l'article 35.

Le fournisseur peut-il la réaliser ?

Il peut apporter documentation et analyses, mais le responsable du traitement doit évaluer sa propre finalité, son contexte et ses risques. Il ne peut pas déléguer sa responsabilité.

Une révision humaine exclut-elle l'article 22 du RGPD ?

Seulement si elle est réelle : la personne doit disposer de la compétence, de l'information, du temps et de l'autorité nécessaires pour modifier la décision. Une simple validation de routine ne suffit pas.

Quelle différence entre AIPD et AIDF ?

L'AIPD porte sur les risques du traitement de données personnelles ; l'AIDF couvre des impacts plus larges sur les droits fondamentaux pour certains déploiements d'IA à haut risque. Les deux doivent se compléter.

Quand faut-il consulter l'AEPD (autorité espagnole de protection des données) ?

Lorsque l'AIPD révèle un risque élevé résiduel que le responsable du traitement ne peut pas atténuer avant le traitement, conformément à l'article 36.

Chez Summum Consultoría, nous pouvons accompagner l'analyse, coordonner les métiers, la protection des données et la technologie, et revoir l'intégralité du dossier d'AIPD, y compris sa coordination avec la mise en conformité à l'AI Act. L'AIPD ne garantit pas, à elle seule, la conformité : elle transforme les décisions et les garanties en un processus vérifiable.