アーカイブを手放さずに行う画像生成

プロダクト側から見ると、画像のアップロードは小さく見えます。1ファイル。1リクエスト。1つの進捗バー。きれいな小さなAPIオブジェクト。素敵です。

しかしユーザー側からすると、それはアーカイブへの入口になり得ます。選択した画像は、何年もの家族の暮らし、仕事のスクリーンショット、旅行の記録、領収書、医療書類、子どもの顔、プライベートなジョーク、そして機械に提出するつもりのなかった会話のスクリーンショットが含まれる、電話のライブラリから来ているかもしれません。

だからこそ、画像の権限はテキストボックスとは感覚が違います。テキストボックスは、ユーザーが入力する内容を尋ねます。フォトピッカーは、引き出しを探るように“探しに行く”ことを求めているように感じられる場合があります。現代のOSは、限定的な写真選択によってこの点を改善していますが、選択したファイルがデバイスを離れた後のプロダクトの振る舞いは依然として重要です。

AIの画像生成は、アップロードを“狭い仕事”のための“狭い入力”として扱うべきです。サービスは、依頼された変換を行うために画像を必要とします。元画像を自動的に保持すること、ユーザーのギャラリーに追加すること、サポートのためのツールに公開すること、分析に流し込むこと、モデル改善のために保持すること、長期間有効なURLとして利用可能にすることを、必ずしも自動で行う必要はありません。

最も良いプライバシーの姿勢は、退屈なほどに“文字どおり”です。アップロードされた画像を生成に使ったら、その後は持ち続けないこと。例外があるなら、それを明確にしてください。悪用のレビューのために特定のケースで一時的な保持が必要なら、その旨を述べてください。請求の記録にリクエストのメタデータが必要なら、その旨を述べてください。出力はユーザーが明示的に保存したときだけ保存するなら、その旨を述べてください。コピーは、解釈のために法律家の“聖職者”のような存在を必要としないものであるべきです。

また、設計上の問いもあります。プロダクトは、ユーザーに対して一括インポートや恒久的なライブラリ、利便性機能を促し、1つの画像タスクを“保存される創作アカウント”へと変えていくのでしょうか。それとも、ジョブを実行してそのまま離れられるようにしているでしょうか。プロダクトは、しつこくならなくても強力になり得ます。

創業者は、プライバシーのデフォルトがエンゲージメントを下げるのではないかと心配しがちです。たぶんそうです。しかし、すべてのプロダクトがエンゲージメントのために最適化されるべきではありません。信頼、タスク完了、そしてユーザーがきれいに離れられる能力のために最適化されるべきものもあります。特に、入力が個人的または商業的にセンシティブな場合はなおさらです。

「アーカイブを手放す」という表現はドラマチックに聞こえますが、実際に多くのアプリが、1回のアップロードを永続的な記録に変えていく様子を見ると、うんざりするほど正確に聞こえてきます。

AIの画像生成は、人々が視覚的な素材を変換できるようにする点で有用です。しかし、その変換が、タスクに見合わないほど多くの“記憶”をユーザーから差し出させる必要があるときに危険になります。

さらなる読み物: あなたの自撮りは、もはや単なる画像ではありません, 「アップロードを削除して」には検証可能である必要がある理由, そして あなたのデータ。