「学習しない」は十分ではない理由

「私たちはあなたのデータを学習しません」というのは良い言い方です。ですが、それで全てではありません。とても大きく、やや不審な皿の上にある、1粒のエンドウ豆にすぎません。

学習はリスクの1つです。提供者が、顧客のプロンプト、アップロードされた画像、または出力を、許可なくモデル改善に使うなら、それは明らかに問題です。とはいえ、多くの顧客が気にするのは、もっと広い疑問です。送った後、私のコンテンツはどうなるのか？ 学習は、あり得る行き先のうちの1つにすぎません。

コンテンツは、悪用の監視のために保持されるかもしれません。アプリケーションの状態として保存されるかもしれません。削除されるまで会話スレッドに置かれるかもしれません。パフォーマンスのためにキャッシュされるかもしれません。リクエストログに書き込まれるかもしれません。エラーレポートにコピーされるかもしれません。サポート担当者に見えるかもしれません。ユーザーのギャラリーに保存されるかもしれません。ポリシーがまったく異なる別の提供者にルーティングされるかもしれません。「学習には使わない」と言いつつも、プライバシーに配慮した購入者がゆっくりと部屋から出ていくのに十分な長さで保持されるかもしれません。

これは机上の空論の細かい話ではありません。主要なAIプラットフォームは、エンドポイントの挙動が異なるため、詳細な保持テーブルを公開しています。たとえばOpenAIのデータ管理に関するドキュメントでは、学習利用、悪用監視の保持、アプリケーション状態の保持、そしてエンドポイントごとのZero Data Retentionの適格性が区別されています。そこに挙げられている画像エンドポイントは、すべてのモデルや条件で同一ではありません。この複雑さは悪ではありませんが、複雑さであることには変わりません。そしてプロダクトチームは、それを安心させる1つの文言に平坦化すべきではありません。

GoogleのGemini Enterprise Agent Platformのドキュメントも、別の角度から同様の指摘をしています。学習の制限と、悪用監視、グラウンディング、リクエスト〜レスポンスのログ、セッションの再開、キャッシュといった保持シナリオを分けているのです。繰り返しになりますが、「誰もが悪い」という教訓ではありません。「具体が重要」という教訓です。プライバシーは気分ではなく表です。

AI画像プロダクトでは、この区別はさらに鋭くなります。元データはとても個人的になり得るからです。プロンプトはセンシティブです。顔はさらにセンシティブです。顔＋プロンプト＋生成された出力＋請求記録＋サポートのスクリーンショットが揃うと、それはもはや「単なるAPI呼び出し」ではありません。事故で作られた、ミニチュアの調査ファイルであり、最もソフトウェアらしいものです。

より良いプライバシー文言は、いくつかの素朴な質問に答えるべきです。顧客コンテンツを学習しますか？ プロンプトを保持しますか？ 元画像を保持しますか？ 生成された出力を保持しますか？ 安全性や法律のための例外はありますか？ スタッフはコンテンツを閲覧できますか？ コンテンツを外部の画像提供者に送りますか？ 一時ファイルはどれくらいの期間存在しますか？ 生成後に残るメタデータは何ですか？

Unexposedの立場は、意図的により狭く、より具体的です。プロンプト、元画像、生成された出力、そしてキーをUnexposedが管理するインフラ内に保持し、それらを短命の生成セッションで処理し、コンテンツに盲目的な耐久記録だけを残します。これは「どこにも何も存在しない」という意味ではありません。請求や運用は依然として存在します。意味するのは、耐久システムが、より良いインシデント対応を備えた創作コンテンツの博物館になってはいけない、ということです。

ベンダーのプライバシーページが「学習しません」で止まっているなら、次の質問をしてください。次にその次。さらに面倒なやつです。面倒なやつこそが、たいていプロダクトの真実で、疲れた顔をしてログファイルを抱えています。

さらに読む：OpenAIのデータ保持のコントロール、Googleのゼロデータ保持のドキュメント、およびUnexposedのデータストレージ。