AIフォトアプリはチャットボットよりも親密に感じられる

チャットボットも個人的に感じられることがあります。フォトアプリは、別の、しかし見知らぬ形で親密に感じられます。

テキストは「あなたが言う」ものです。写真はしばしば「あなた自身」「あなたがいた場所」「あなたが愛する誰か」のどれか、あるいはそれらに結びつくものです。だからこそ、AIフォト製品は役に立つところから、あっという間に親密さの領域を越えてしまうことがあります。単に指示に応答するだけではありません。人、場所、身体、記憶、関係性の“証拠”を変えてしまうのです。

そのため、出力が無害に見えていてもユーザーは不安になります。空想のポートレート、デート写真の改善、ヘッドショット、家族写真のクリーンアップ、あるいは身体編集ツールなどは、見た目が普通の最終画像になるかもしれません。しかし元の素材は、深く明かしてしまう可能性があります。ツールが触れたのは、文ひとつよりもずっと近いものです。

チャットのプライバシーは通常、プロンプトと応答を中心に語られます。フォトのプライバシーには、より多くの“面”があります。元画像、プロンプト、マスク、参照画像、生成された出力、サムネイル、ギャラリー、ダウンロードリンク、EXIFの取り扱い、推測され得る顔のジオメトリ、そしてサポートの導線。感情的な重みは、それらすべての面が「ある一人の人」に向かって収束していくことから生まれます。

AIフォトアプリは、プライベートな試行と公開されるアイデンティティの境界も曖昧にします。ユーザーは、公開するはずのない編集を試すかもしれません。スタイル、見た目、製品、あるいは個人的な変化をテストするかもしれません。下書きが重要なのは、下書きが“欲求”を明らかにするからです。すべての下書きを永遠に保持する製品は、単に便利なだけではありません。ユーザーが書いたことに気づかないかもしれない日記を、保持していることになります。

最良のフォト製品は、親密さがUXの機会であるだけでなく、責任でもあることを理解しています。もし製品が親密な素材を求めるなら、データの経路を分かりやすく示すべきです。何が保存され、何が削除され、誰が見られ、外部提供者に渡るのかを明確にすべきです。コピーは、黒いタートルネックで厳粛に震える必要はありません。必要なのは、ただ“わかりやすさ”です。

もう一つの設計上の教訓もあります。プライバシーのコントロールは、ポリシーだけでなく、アップロードの瞬間の近くに置くべきです。信頼の判断をするのは、ユーザーがファイルを手に持っているときです。経路を説明するのは、その瞬間です。アップロード後では遅すぎますし、サポートチケットが告白になってしまった後ではなおさらです。

Unexposedの方針は、プロンプト、元画像、生成された出力、そしてキーを、漏れないようにすべきユーザーコンテンツとして扱うことです。このアーキテクチャは、フォトアプリでは特に重要です。アップロードされた素材には、ファイルそのもの以上の個人的な意味が含まれていることが多いからです。

チャットボットはあなたが打ち込んだ内容を知っています。フォトアプリは、あなたがどう見られたいのかを知っているかもしれません。

だから親密に感じられます。そしてだからこそ、プライバシーの約束はもっと良くなければなりません。

さらなる読み物: Your Data, The privacy promise users actually understand, そして How Unexposed works。