AIは子どもの写真に触れていい？

最も安全な答えは、まず一度立ち止まることです。

それは「決してやらない」と同じではありません。家族の写真を使うAI画像ツールには、修復、背景の整理、プライベートな思い出、アクセシビリティ、創作プロジェクト、そして、ちょっとした家庭内の軽いトラブルの最中に撮られたような“ごちゃごちゃした写真”を、普通の見た目に近づけたいという人間らしい欲求に応えるといった、正当で害のない用途があります。

しかし子どもの写真には、より高い基準が必要です。子どもは、自分の画像が将来どう使われるかを、意味のある形で評価できません。プライバシーポリシーを読めません。モデルのルーティング、保存、第三者プロバイダー、バイオメトリクス推論、公的な共有、そして今日の“かわいい出力”が後になって侵襲的に感じられる可能性を理解できません。大人がその判断を代わりに行う必要があり、それは面倒です。なぜなら、大人こそが家族のグループチャットを作った人たちでもあるからです。

最初の問いは、そのツールが子どもの顔をそもそも必要としているかどうかです。背景の削除、商品用のモックアップ、画像の修復が目的なら、切り抜き、ぼかし、あるいはローカル／プライベートに処理するツールを使えないでしょうか。顔が出力の中心である場合は、次に、ツールが元画像や生成された出力を保存するのかを確認します。

次の問いは、画像がどこへ行くかです。AIツールの中には外部プロバイダーを使うものがあります。ギャラリーを保持するものもあります。安全のため、または不正利用や虐待の監視のためにアップロードを保持するものもあります。アカウントの種類や設定によっては、データをシステム改善に使う可能性もあります。繰り返しますが、すべてのプロバイダーが悪意を持っているわけではありません。問題は、「とりあえずアップロードする」が子育ての戦略になっていないことです。

3つ目の問いは共有です。プライベートな生成は、大人が出力を共有することで公開され得ます。画像がスタイライズされていたり編集されていたりする場合、後になって子どもがそれに合理的に安心できるかを考えてください。答えは「はい」かもしれません。また、「私の顔を妖精のプリンセス×サイバーパンクのパイプラインに通して、あなたのニュースレターに載せないでください」ということかもしれません。

さらに、法的・ポリシー上の論点もあります。子どものデータは多くの法域で特別な保護を受けており、子ども向けをうたうサービスには追加の義務が課される場合があります。詳細は、場所、プロダクトの設計、年齢、同意、そして利用ケースによって異なります。この記事は法的助言ではありません。「家族の写真」は、プライバシーに関する義務からシステムを魔法のように免除してくれるわけではない、という注意喚起です。

良いAI画像プロダクトは、子どもの写真の判断をしやすくするべきです。アップロードが保存されるのか、出力が保持されるのか、スタッフが内容を見られるのか、第三者プロバイダーに渡るのか、削除はどう機能するのかを具体的に示すべきです。そうしたことを説明できないプロダクトで、子どもの顔をテストケースにしないでください。

問題は、AIがかわいい画像を作れるかどうかではありません。作れます。問題は、そのデータの流れが、まだ異議を唱えられない人を尊重しているかどうかです。

詳しく読む：ICOのChildren’s code guidance、Children’s Online Privacy Protection RuleのeCFR本文、そしてPrivate AI Image Generator。