Confidentialité biométrique pour la génération d’images par IA

La confidentialité biométrique, c’est quand la génération d’images par IA cesse d’être une fonctionnalité amusante et commence à porter une cravate.

Toutes les photos ne sont pas automatiquement des données biométriques dans tous les contextes juridiques. Cette distinction compte. Une photo aléatoire d’un visage n’est pas toujours traitée de la même manière qu’un gabarit de visage utilisé pour identifier ou authentifier quelqu’un. Mais les produits d’images par IA gèrent souvent les ingrédients qui font apparaître des questions biométriques : des visages, des corps, un contexte proche de la voix dans la vidéo, la démarche, les mains, les cicatrices, les tatouages et des représentations dérivées.

L’énoncé de politique de la Federal Trade Commission (FTC) des États-Unis sur la biométrie présente les informations biométriques et les technologies biométriques comme des enjeux de protection du consommateur, notamment des allégations trompeuses et des pratiques déloyales. Les obligations exactes dépendent du produit, de la juridiction et du cas d’usage, mais le signal est clair : les régulateurs se préoccupent de cette catégorie.

Le droit européen de la protection des données est également attentif à l’identification biométrique. Les lignes directrices de l’EDPB sur la reconnaissance faciale mettent l’accent sur des risques accrus lorsque des systèmes biométriques sont utilisés pour identifier ou authentifier des personnes. Là encore, toutes les retouches d’images ne sont pas de la reconnaissance faciale. Mais les produits d’images qui traitent des visages ne devraient pas prétendre que la catégorie est ordinaire.

Pour la génération d’images par IA, la question pratique est ce que le système fait du visage. Génère-t-il simplement une sortie modifiée pour l’utilisateur ? Extrait-il une empreinte réutilisable ? Met-il en correspondance une identité entre des images ? Entraîne-t-il un modèle de ressemblance ? Stocke-t-il des images sources ? Permet-il à un autre utilisateur de téléverser le visage de quelqu’un ? Ce sont des profils de risque très différents.

Les outils d’avatar, les générateurs de photos de profil, les éditeurs de photos de rencontre, les fonctionnalités d’échange de visage, les outils d’essayage et les applications de restauration devraient être particulièrement prudents. Ils devraient éviter d’entraîner sur des visages d’utilisateurs sans consentement explicite, éviter de conserver inutilement des images sources, limiter les paramètres par défaut de partage public et rendre la suppression compréhensible.

Le consentement se complique lorsque la personne qui téléverse n’est pas celle qui apparaît sur l’image. Un utilisateur peut avoir une photo d’un ami, d’un enfant, d’un conjoint, d’un employé, d’un client ou d’un invité. Les contrôles techniques de confidentialité ne résolvent pas tous les problèmes de consentement, mais ils réduisent l’ampleur en limitant la conservation, l’accès et la réutilisation.

La position honnête du produit n’est pas « toutes les photos de visage sont interdites ». Ce serait inutile. La position honnête est la suivante : les visages méritent un niveau de soin plus élevé, surtout lorsque le système dérive des caractéristiques pertinentes pour l’identité ou stocke des données de ressemblance réutilisables.

La confidentialité biométrique s’applique à la génération d’images par IA chaque fois que le produit s’approche de l’identité. Et les outils d’images s’approchent de l’identité très rapidement.

Pour aller plus loin : énoncé de politique biométrique de la FTC, lignes directrices de l’EDPB sur la reconnaissance faciale, et la dissimulation des données biométriques dans les photos de produits ordinaires.