AIサービスは画像を削除したと証明できますか？

AIサービスは画像を削除したと証明できますか？ 場合によっては部分的に可能です。完全に完璧な証明は、めったにできません。完璧な証明ができると真顔で約束する人には、水を飲ませて、もう少し静かな部屋を用意してあげるべきです。

現代のサービスにおける削除は分散されています。画像は、アップロード用ストレージ、処理キュー、テンポラリディスク、生成された出力のストレージ、サムネイル、CDNキャッシュ、モデレーションシステム、ログ、バックアップ、サポート用ツール、そしてサードパーティのプロバイダーのシステムなどに触れる可能性があります。データベースの行を削除することは、画像を削除することと同じではありません。

証拠には強いものと弱いものがあります。強い証拠には、設計上の短寿命ストレージ、期限切れになる署名付きURL、オブジェクトのライフサイクル規則、削除ジョブのログ、キャッシュ無効化の記録、アクセスログ、プロバイダーの保持に関するコミットメント、派生物（derivatives）がカバーされることを示す監査などが含まれます。弱い証拠は、直接URLがまだ機能しているのに「削除済み」と表示するダッシュボードメッセージです。これは証拠ではなく、ボタン付きの演劇です。

NISTのメディアのサニタイズに関するガイドラインは、削除を「魔法の一発」として一括りにするのではなく、サニタイズの結果と方法を分けているため役に立ちます。クラウドサービスが、ユーザーの要求ごとに必ず物理メディアのサニタイズを行っているとは限りませんが、考え方は役立ちます。到達したい状態を定義し、制御を選び、それを検証するのです。

AI画像サービスでは、証明とはしばしば「形而上学的な不在」を証明することではなく「プロセスを証明する」ことを意味します。たとえば、ソースファイルが短寿命のバケットにのみ保存されていることを示せます。ライフサイクル規則によって一定の期間後に削除されることを示せます。保存されない限り出力がホストされないことを示せます。プロンプトがログに記録されないことを示せます。プロバイダーが契約上、学習に使わないことを除外し、保持期間を定義していることを示せます。

バックアップは約束を複雑にします。多くのシステムは、暗号化されたバックアップを限られた期間保持し、すべてのバックアップスナップショットから個々のレコードを外科的に削除しません。これは、正確に開示され、復元されたデータが削除ワークフローに再び入るなら許容される場合があります。「バックアップからも即時に削除される」と言うのは、バックアップが数週間アクセス可能なコピーを保持するなら受け入れられません。

顧客向けの回答は、過剰な主張を避けるべきです。「X以内にアクティブなシステムから削除」は「Y以内にバックアップから削除」とは別です。「直接リンクはZ後に期限切れ」は「出力は決して公開されない」とは別です。具体的な主張をすることで、ユーザーがその挙動が十分に良いかどうかを判断できます。

完全な削除の証明は難しいです。有用な削除の証拠は十分に可能です。そのためには、怒ったサポートチケットが届く前に、製品をそのために作り込む必要があります。

さらなる読み物: NIST SP 800-88 Rev. 1、「削除済み」でも公開アクセス可能なままの場合、および「アップロードを削除」が検証可能である必要がある理由.