Privacy biometrica per immagini generate dall’IA

La privacy biometrica è quando la generazione di immagini con l’IA smette di essere una funzione divertente e inizia a indossare una cravatta.

Non ogni foto è automaticamente dati biometrici in ogni contesto legale. Questa distinzione conta. Una foto casuale di un volto non viene sempre trattata allo stesso modo di un template del volto usato per identificare o autenticare qualcuno. Ma i prodotti di immagini con l’IA spesso gestiscono gli ingredienti che fanno comparire le domande biometriche: volti, corpi, contesto “vicino alla voce” nei video, andatura, mani, cicatrici, tatuaggi e rappresentazioni derivate.

La dichiarazione di policy sulla biometria della Federal Trade Commission (FTC) inquadra le informazioni biometriche e le tecnologie biometriche come questioni di tutela del consumatore, incluse affermazioni ingannevoli e pratiche scorrette. Gli obblighi esatti dipendono dal prodotto, dalla giurisdizione e dal caso d’uso, ma il segnale è chiaro: i regolatori si preoccupano di questa categoria.

Anche la normativa europea sulla protezione dei dati è attenta all’identificazione biometrica. Le linee guida sulla riconoscimento facciale dell’EDPB si concentrano su rischi elevati quando i sistemi biometrici sono usati per identificare o autenticare persone. Anche qui, non ogni modifica di una foto è riconoscimento facciale. Ma i prodotti di immagini che elaborano volti non dovrebbero fingere che la categoria sia ordinaria.

Per la generazione di immagini con l’IA, la domanda pratica è cosa fa il sistema con il volto. Sta semplicemente generando un output modificato per l’utente? Sta estraendo un embedding riutilizzabile? Sta abbinando un’identità tra immagini? Sta addestrando un modello di somiglianza? Sta memorizzando immagini sorgente? Sta permettendo a un altro utente di caricare il volto di qualcun altro? Questi sono profili di rischio molto diversi.

Gli strumenti per avatar, i generatori di headshot, gli editor di foto per appuntamenti, le funzioni di face swap, gli strumenti di prova (try-on) e le app di restauro dovrebbero essere particolarmente prudenti. Dovrebbero evitare di addestrarsi sui volti degli utenti senza un consenso esplicito, evitare di conservare immagini sorgente inutilmente, limitare le impostazioni predefinite di condivisione pubblica e rendere comprensibile la cancellazione.

Il consenso si complica quando chi carica non è la persona raffigurata. Un utente può avere una foto di un amico, di un bambino, di un coniuge, di un dipendente, di un cliente o di un ospite. I controlli tecnici sulla privacy non risolvono ogni problema di consenso, ma riducono l’“area d’impatto” limitando conservazione, accesso e riutilizzo.

La posizione onesta del prodotto non è “tutte le foto di volti sono vietate”. Sarebbe inutile. La posizione onesta è: i volti meritano una cura maggiore, soprattutto quando il sistema ricava caratteristiche rilevanti per l’identità o memorizza dati di somiglianza riutilizzabili.

La privacy biometrica si applica alla generazione di immagini con l’IA ogni volta che il prodotto si avvicina all’identità. E gli strumenti di immagini si avvicinano all’identità molto rapidamente.

Approfondimenti: dichiarazione di policy biometrica della FTC, linee guida sul riconoscimento facciale dell’EDPB e la “biometric data hiding” nelle foto ordinarie dei prodotti.