画像データはテキストよりも保護が難しい理由

テキストが危険なのは、人が秘密を書いてしまうからです。画像が危険なのは、人がうっかりそれを含めてしまうからです。

テキストのプロンプトなら「未公開の製品のローンチ画像を作って」と言うかもしれません。これは機密です。しかし写真は、未公開の製品、オフィス、背景にあるホワイトボード、誰かのシャツに付いた名札、端末のシリアル番号、従業員の顔、そしてみんながまだ使っているあの気の毒な会議室があることまで明らかにできます。

画像は、多くの種類のデータを1つのオブジェクトに詰め込みます。見える内容として、顔・身体・部屋・書類・画面・乗り物・子ども・住所・制服・医療上の状態・宗教的な場・高価なものがあります。さらに、メタデータとして、タイムスタンプ、端末情報、位置情報、ファイル履歴、カメラ設定、編集の痕跡が含まれることもあります。

メタデータが削除されていても、画像そのものが文脈を含んでいる可能性があります。特徴的なキッチンは家を特定できます。学校の制服は子どもを特定できます。珍しい製品は顧客を特定できます。背景の窓は通りを特定できます。顔は人物を特定できます。タトゥー、歩き方、手、傷跡も同様に特定につながります。画像はデフォルトでおせっかいです。

そのため、匿名化が難しくなります。テキストから名前を伏せるのは、画像を安全に実質的に匿名化するのとは同じではありません。顔をぼかしても、その部屋がその人を特定できるかもしれません。背景を切り取っても、プロンプトが文脈を持ち運んでしまうかもしれません。メタデータを取り除いても、内容だけで十分に足りてしまうことがあります。

AIの画像ワークフローでは、生成された派生物が追加されます。アップロードされた1枚の写真から、多くの出力、プレビュー、サムネイル、マスク、埋め込み、モデレーションのイベント、ログが作られます。それぞれの派生物が、元の機密性の一部を持ち運ぶ可能性があります。元データを守るだけでは不十分です。派生物が、放置されたオフィスのお菓子のようにインフラのあちこちをさまよってしまうならなおさらです。

実務的な答えは最小化です。必要以上に画像を取り込まないでください。メタデータが不要なら削除します。ソースファイルを保存しないでください。機密性のある文脈を説明するプロンプト履歴は避けます。ユーザーが意図的に保存しない限り、生成された派生物は短命に保ちます。顔・自宅・子ども・医療画像・顧客対応の作業は、プライベート処理を使ってください。

テキストのプライバシーは重要です。画像のプライバシーは、ユーザーが画像をデバイスから出すまでに何が含まれているか分からないことがあるため、よりごちゃごちゃしているだけです。

さらに読む： 普通の製品写真に潜むバイオメトリクスデータの隠れ方, 無害な写真編集がデータ問題になるまで, そして 「『匿名化する』では誰も落ち着かない理由」。