从深度伪造打击中学到的经验

深度伪造打击不仅是一个法律故事。这更像是一堂在荧光灯下进行的产品课。

教训在于：滥用路径会变成基础设施需求。如果一个产品能够生成逼真的人物图像，那么它就需要具备防止误用的机制、响应举报的流程、移除有害内容的方法，并且避免比必要更久地保留敏感材料。

《TAKE IT DOWN Act》主要针对未经同意的亲密影像以及覆盖的平台，而不是地球上每一种私密图片工具。但它的结构依然具有启发性：一方面是刑事化，另一方面是平台侧的移除程序。产品团队应该注意到“后半部分”。举报与移除是设计问题。

AI 图像工具应当追问：有害输出可能会被安放在哪里。输出是否会停留在托管的画廊中？用户能否分享公开链接？缩略图是否会被缓存？删除的内容还能否被找回？是否会生成或存储重复内容？当有人举报某个输出时会发生什么？移除之后还会保留哪些记录？

隐私角度与此相连。保留更少的私密内容的产品，后续需要移除的“面”也更少。没有默认托管画廊的产品，其滥用存档规模也更小。即便产品保留与内容无关的运营记录，它仍然可以在不默认保存每一条有害输出的情况下进行调查。

这些都不能替代安全政策。某些产品需要强有力的内容规则、用户执行机制、举报流程以及人工审核。但如果只有政策而没有产品形态支撑，政策就会显得薄弱。若产品让滥用变得容易、让响应变得困难，那么政策不过是带徽章的墙纸。

深度伪造打击还教会我们谦逊。许多团队曾以为生成式图像工具只是创意玩具，直到受害者、立法者和监管机构让大家明白：逼真的合成媒体会造成真实伤害。产品规划需要从这种现实出发，而不是在上线之后才“发现”。

产品团队的要点很直白：在发布“应对滥用”的新闻稿之前，就先把滥用响应做好。

延伸阅读：GovInfo 的 《TAKE IT DOWN Act》公开法律页面、未经同意的 AI 图片改变了对所有人的规则，以及 为什么你的 AI 画廊可能会成为一项责任。