それは誰かの顔から始まった

「生成コンテンツ」という言葉は便利ですが、出自の物語を“洗い流す”ように使われ始めたら役に立ちません。

画像が実在の人物の顔から始まるなら、その結果は、ペストリーのように機械から偶然に生まれてきた「たまたま出てきたコンテンツ」ではありません。これはアイデンティティの素材の変換です。入力は人でした。似姿、顔の形、表情、肌、髪、体、あるいはスタイルが、出力の土台として残る可能性があります。

重要なのは、「生成コンテンツ」という言い方がプロセスを清潔で人工的なものに聞こえさせてしまうことです。人間の出どころがない、同意の問題がない、生体情報に近い懸念がない、実在の人物との関係がない——そうした含意を持たせられます。これは都合がよい一方で、ユーザーが気にする点に関しては、しばしば事実ではありません。

アバター作成ツール、デート用写真ツール、ヘッドショットツール、顔のスワップ、バーチャル試着、修復アプリ、ポートレート編集ツールはいずれもアイデンティティの領域に非常に近いものです。生成された出力は新しいかもしれませんが、入力は親密なものになり得ます。プロダクトは、最終的なファイル形式の背後に隠れてはいけません。

より良い言葉は、もっと具体的です。「AIで編集した写真。」「アップロードした画像から生成。」「参照写真から生成したポートレート。」「似姿に基づく出力。」これらは「生成コンテンツ」よりも少し言い回しが硬いかもしれませんが、人間を文の中に残します。

これは杓子定規な話ではありません。プロダクトの言語は、プロダクトの意思決定を形作ります。チームが「コンテンツ」を扱っていると思っていれば、コンテンツのワークフローを設計するかもしれません。チームが「顔」を扱っていることを思い出せば、保持、同意、アクセス、削除をより慎重に設計できるようになります。

ユーザーは違いを理解しています。スタジオ照明をモデルが追加しただけで、アップロードした顔が道徳的に“無差別な一般化”になるとは考えません。出力の元画像がどこへ行ったのか、学習に使われたのか、出力が公開されるのか、削除が本当に行われるのかを知りたいのです。

AI画像プロダクトは、抽象的な名詞で具体的なリスクを和らげるのをやめることで、より多くの信頼を得られます。誰かの顔から始まったのなら、そう言ってください。そして、それが重要だと考えるように作りましょう。

関連記事： 生体情報のプライバシーがAI画像生成にどう適用されるか、 AIアバター機能をプライベートに作る方法、 他人の顔をアップロードするための奇妙な新しい作法。