モデル学習とアップロード画像は別物

開発者は「学習には使っていません」と言いがちですが、それでプライバシーの問いがすべて答えられるわけではありません。

それは重要な1つの問いに答えています。しかし、すべてには答えていません。

アップロードされた画像は、学習に使われなくても推論に使われることがあります。推論とは、モデルが画像を処理して出力を返すことです。学習とは、画像によってモデルの重みが変わることです。ファインチューニングとは、データセットを使ってモデルを適応させる、より限定された学習プロセスです。ログとは、サービスがコンテンツやメタデータを記録することです。アプリケーションの状態とは、サービスが機能のためにデータを保存することです。これらは別のものです。別の文で説明されるべきです。

この混同が問題になるのは、製品が正しい主張をしつつも、ユーザーをさらしたままになり得るからです。「アップロードは学習に使いません」は真実であり得ますが、プロンプトが30日間ログに残る、ホストされたギャラリーに出力が表示される、削除されるまで状態を持つツールにファイルが残る、あるいはソース画像がサポート担当者にアクセス可能である、といったことが起こり得ます。

提供元のドキュメントは、こうした違いを反映していることがよくあります。OpenAIのAPIデータコントロールでは、学習利用、悪用監視、アプリケーションの状態、エンドポイントの適格性、画像/ファイル入力の取り扱いが分けられています。MicrosoftのFoundryデータプライバシードキュメントでも、推論、保存された機能、ファインチューニングデータ、悪用監視、地理が分けられています。表が退屈なのは、違いが重要だからです。

開発者は、データの全経路を対応づけるべきです。ユーザーが画像をアップロードします。製品がそれを提供元に送ります。提供元が処理します。出力が返ります。製品が出力を保存するかしないか。ログがプロンプトやコンテンツを記録するかしないか。安全性の仕組みが検査するかしないか。ファイルが期限切れになるかならないか。ユーザーが削除するかしないか。すべての動詞がプライバシーの判断です。

これは特に画像機能で重要です。ユーザーは「学習しない」＝「保持しない」と思い込むかもしれません。しかし、それらは同等ではありません。学習しない保持経路でも、侵害、サポートアクセス、法的な開示（ディスカバリー）、公開リンク、または社内での不適切な利用といった形で、さらされ（露出）が生じ得ます。

正しい開発者の習慣は、包括的な言葉を避けることです。「モデル学習には使わない」と言いましょう。「アプリケーションの状態として保存しない」と言いましょう。「悪用監視ログは、ZDRが有効でない限り、顧客コンテンツをX日間保持する」と言いましょう。「生成後、アップロード画像は削除される」と言いましょう。「ユーザーが保存したときだけ、出力がホストされる」と言いましょう。

パイプラインに名前がつくと、プライバシーはずっと神秘的ではなくなります。ユーザーはすべての実装詳細を知る必要はありませんが、チームは知る必要があります。さもないと「学習には使わない」が、未回答の問いが広がるはるかに大きな海の中の、小さな真実の島になってしまいます。

さらに読む： OpenAI APIデータコントロール、Microsoft Foundryデータプライバシー、および 「あなたのデータは学習に使いません」はそれだけでは不十分。