影像生成器的軍備競賽忘了使用者

AI 影像生成器的軍備競賽帶來了驚人的進步。手部更好、文字渲染更好、光線更好、風格控制更好、編輯更好、以及更接近影片的怪異感也更好。這很令人印象深刻。

但它也以一種非常特定的方式，把使用者忘在腦後。

使用者不只是想問「輸出有多好？」他們更想問的是「我的影像會怎麼樣？」一開始他們可能不會用這種方式表達。他們可能只是把游標停在上傳按鈕上，感到一點不安，然後就離開了。

軍備競賽會優化模型能力，因為能力很容易展示。前後對比圖一眼就能說服人。隱私控制不會爆紅。沒有人會轉推留存（retention）圖表，除非網路比證據顯示的還要更文明。

但嚴肅的採用取決於信任。若供應商的說法模糊，創辦人不會上傳尚未發布的產品概念。家長在上傳孩子的照片前可能會猶豫。代理商可能會避開客戶資產。與醫療相關的團隊可能過不了審查。使用者若要編輯自己的臉，可能也不想要提示詞（prompt）存檔。

模型品質很重要。只是它並不會是唯一重要的。能產出漂亮結果、卻留下令人困惑的紀錄的影像產品，就像是一家食物很棒、但你被要求忽略廚房起火的餐廳。

下一場競賽應該把資料控制納入：預設不訓練、短期留存、私密輸出、清楚的刪除、能理解同意的使用者體驗（UX），以及供應商透明度。這些不是企業端的事後補丁。它們是產品功能。

影像軍備競賽本來不必忘了使用者。只是它變得比那些更安靜的問題還吵。現在，那些更安靜的問題正逐漸成為購買標準。

延伸閱讀：信任會在 AI 影像產品中贏過新奇、在你的應用程式中加入「生成影像」的隱藏信任成本、以及創辦人的選擇 AI 影像供應商檢查清單。