Déclarations de confidentialité vs contrôles de confidentialité

Une déclaration de confidentialité, c’est ce que le produit dit. Un contrôle de confidentialité, c’est ce que le système fait quand personne ne regarde.

« Nous ne stockons pas vos images » est une déclaration. Le stockage d’objets à durée de vie courte, des URL signées expirant, la désactivation de la journalisation des prompts, des tests de purge du cache, l’accès restreint au support et des jobs de suppression avec supervision sont des contrôles. L’un appartient au texte. L’autre appartient à l’architecture.

Cette distinction compte parce que les produits d’IA peuvent sembler privés tout en se comportant de façon lâche. Une page d’accueil peut dire « sécurisé et privé » tandis que le service conserve les prompts bruts dans des journaux d’observabilité, stocke les sorties générées dans une galerie, donne au support un accès large et laisse les liens du CDN vivre plus longtemps que la patience de l’utilisateur.

Les contrôles sont spécifiques. L’exclusion de l’entraînement est un contrôle. Les fenêtres de conservation sont des contrôles. Les permissions d’accès sont des contrôles. Le chiffrement est un contrôle. La résidence des données peut être un contrôle. Les seuils de revue manuelle sont des contrôles. La vérification de la suppression est un contrôle. « Nous nous soucions de la confiance » n’est pas un contrôle, même si cela a été connu pour porter un blazer.

Pour les systèmes d’images IA, les contrôles les plus importants se situent généralement autour du mouvement des données. Le téléversement quitte-t-il votre infrastructure ? Est-ce qu’il va à un fournisseur tiers ? Le fournisseur le conserve-t-il ? La sortie est-elle hébergée ? Le prompt entre-t-il dans des journaux ? Le client doit-il s’exclure, ou la confidentialité est-elle le paramètre par défaut ?

Un bon texte de confidentialité mappe directement vers des contrôles. Si vous affirmez qu’il n’y a pas d’historique des prompts, il ne devrait y avoir aucune table d’historique des prompts, aucune copie de prompts dans l’analytique et aucun corps de prompt dans des journaux conservés longtemps. Si vous affirmez des téléversements temporaires, il devrait y avoir une fenêtre de suppression et un moyen de la tester. Si vous affirmez ne pas entraîner, il devrait y avoir des conditions fournisseur et une séparation des pipelines qui soutiennent cette affirmation.

C’est aussi ainsi que les acheteurs devraient évaluer les fournisseurs. Ne vous arrêtez pas à la page de confidentialité. Demandez la conservation au niveau des endpoints, le comportement de l’état applicatif, la conservation de la surveillance des abus, les règles d’accès au support, le processus de suppression, la liste des sous-traitants, et si les endpoints d’images diffèrent des endpoints de texte.

L’écart entre les déclarations et les contrôles, c’est là que la confiance devient coûteuse. Les meilleurs produits rendent cet écart ennuyeusement petit.

Pour aller plus loin : Comment livrer des images IA sans demander aux utilisateurs de faire confiance à une boîte noire, Les questions de politique de confidentialité que votre fonctionnalité d’images IA doit survivre, et Le stockage de données Unexposed.