Les données biométriques se cachent dans des photos de produits

Tous les problèmes de confidentialité n’arrivent pas avec une étiquette « téléversement de visage ».

Parfois, ils arrivent sous forme de photo de produit. Une bouteille brillante sur un bureau. Une montre au poignet. Une paire de chaussures dans un couloir. Un ordinateur portable à côté d’un badge. Un objet fait main tenu par le vendeur. Un objet à l’aspect miroir qui reflète la personne qui prend la photo. Les images ordinaires sont de petites scènes de crime de contexte, sauf qu’en général personne n’a commis de crime et que tout le monde voulait simplement une meilleure lumière.

Quand les équipes produit réfléchissent à la confidentialité des images par IA, elles séparent souvent les « photos personnelles » des « images professionnelles ». Cette distinction est utile, mais elle peut être trop nette. Les photos de produits peuvent inclure des personnes. Les mains peuvent identifier. Les reflets peuvent révéler des visages. Les arrière-plans peuvent révéler des domiciles, des lieux de travail, des écoles, des sites clients, des adresses, des numéros de série ou des produits non encore sortis.

Le risque biométrique dépend de l’usage, de la juridiction et du traitement. Une image aléatoire qui contient un visage n’est pas automatiquement la même chose qu’un système qui extrait une géométrie du visage à des fins d’identification. Mais la frontière n’est pas toujours évidente pour les utilisateurs, et elle ne l’est pas toujours non plus pour les équipes produit. Si un flux de travail IA détecte, segmente, améliore, compare ou stocke des visages dans des images ordinaires, l’analyse de confidentialité change.

Cela compte pour les entreprises qui utilisent des outils d’images IA à grande échelle. Un vendeur sur une marketplace peut téléverser des photos de produits personnalisées pour les clients. Une agence peut téléverser des ébauches de campagnes clients. Une équipe e-commerce peut traiter des milliers d’images avec des personnes en arrière-plan. Un flux immobilier peut inclure des photos de famille sur les murs. La catégorie produit dit « génération d’images ». Le contenu dit « des données personnelles se sont glissées en portant un gilet haute visibilité ».

Le modèle de conception sûr consiste à traiter les images sources comme sensibles par défaut, même lorsque le cas d’usage semble commercial. Ne conservez pas les originaux sauf si c’est nécessaire. Supprimez les métadonnées inutiles lorsque c’est approprié. Évitez d’enregistrer les URL des images dans l’analytique. Ne montrez pas les aperçus au personnel de support sauf s’il existe une raison claire et approuvée par l’utilisateur. Conservez les sorties générées et les images sources dans la même limite de confidentialité.

Le texte produit doit éviter les fausses assurances. « Pour les images de produits » ne veut pas dire « sans données personnelles ». Un meilleur texte explique ce que le système fait avec chaque image source, qu’elle contienne un visage, une chaise ou une chaise reflétée dans le visage de quelqu’un, car les pipelines d’images par IA ne devraient pas dépendre du fait que l’utilisateur classe parfaitement la sensibilité avant le téléversement.

C’est aussi pour cela que l’infrastructure privée est utile au-delà des cas d’usage manifestement personnels. Vous n’avez pas besoin de savoir à l’avance si une photo de produit téléversée contient un détail d’arrière-plan sensible, si le chemin de génération est conçu pour ne pas le conserver.

Le fait que les données biométriques se cachent dans des photos de produits ordinaires n’est pas toujours spectaculaire. C’est justement ce qui rend le problème facile à manquer.

Pour aller plus loin : l’aperçu de la technologie de reconnaissance faciale par le NIST, la génération d’images dans le cloud privé et Le client ne se soucie pas de votre modèle.