プロのプロフィール写真に潜む新たなリスク

AIのプロフィール写真は、最も理解しやすいAIプロダクトの一つです。多くの人は、きちんとしたプロの写真が必要です。多くの人は、カメラマンを予約し、清潔なシャツを探し、見栄えのする照明を用意し、そして「有能だがLinkedInに取り憑かれてはいない」表情を練習したくはありません。

だからこそ提案は成立します。写真をアップロードすれば、整ったプロフィール写真が手に入る。便利で、役に立つ。ときどき、AIならではの不気味さもあります。たとえば、企業のリブランディング後の自分のように見えてしまう、あの感じです。

リスクは、プロのプロフィール写真がカジュアルな画像ではないことです。これは「身元の資産」です。顔と実名、職業、会社、公開プロフィール、地理情報、キャリア段階、そしてソーシャルグラフを結びつけます。プロのプロフィール写真は「認識される」ために設計されています。そこが目的です。元画像をアップロードして作成する際、あなたは単にピクセルを渡しているのではありません。あなたの公開される身元の“生の素材”をアップロードしているのです。

まず確認すべきは保持（retention）です。サービスは元画像を保持しますか？生成されたプロフィール写真は保持しますか？どれくらいの期間ですか？ユーザーは削除できますか？削除するとサムネイルやバリエーションも消えますか？プロバイダーは、不正利用の監視やサービス改善のためのデータを保持しますか？答えによっては妥当な場合もありますが、アップロード後に「あなたの顔をボタンに寄付してから」知るのではなく、アップロード前に見える形で示されるべきです。

次に問題になるのがルーティング（routing）です。多くのプロフィール写真プロダクトは、モデル提供事業者やクラウドの画像システムの上に構築されています。これが自動的に間違いというわけではありません。しかし、顧客の写真がプロダクトの直接の管理範囲を出ていくなら、プライバシーポリシーは、どの外部システムに、どの条件で送られるのかを説明すべきです。「AIで動いています（Powered by AI）」はマーケティングです。「これらの提供事業者が、これらの保持ルールのもとで処理します（Processed by these providers under these retention rules）」は情報です。

3つ目の問題は期待（expectation）です。ユーザーは、有料プロダクトのほうが無料プロダクトより安全だと考えがちです。そうである場合もあります。ですが、有料の場合でも、単に購入画面の見た目が良いだけということもあります。信頼できる唯一の問いは、プロダクトがアップロードと出力を実際にどう扱うかです。

ここで同意（consent）もまた厄介になります。プロフィール写真のツールは、さまざまな文脈の写真を複数枚求めることがよくあります。それらの画像に他の人が写っていますか？職場のバッジや場所が写っていますか？背景に他人がいる、過去のソーシャル写真をアップロードしていませんか？プロフィール写真の用途はプロフェッショナルに見えますが、元の素材はしばしば個人的なものです。

チームとしてプロダクト内でプロフィール写真生成を提供する場合、プライバシーの基準は高くあるべきです。元画像の削除を明確にしてください。不必要なギャラリーは避けてください。サポートへのアクセスは制限してください。ユーザーが明確にオプトインしていない限り、品質レビューのためにプライベートなプロフィール写真のアップロードを使わないでください。そして、すべてのオンボーディングフローに敬意を込めてお願いです。顔の保持を、誰も読めないようなポリシーの11段落目に埋め込まないでください。家具になるまで読まないと分からないような形にしないでください。

AIのプロフィール写真は悪いものではありません。単に、明るい「ビフォー＆アフター」グリッドが示すよりも、ずっと深刻なものなのです。

さらなる読み物：NISTの顔認識技術（facial recognition technology）に関する概要、Your Data、およびプライベートなAI画像ツールを評価する方法。