一个 AI 色情工具能同时穿过两道门：在 Meta 上投广告，在苹果 App Store 里上架。这个事实比广告本身更刺眼。WIRED 8 月 18 日报道，名为 Kromix 的应用把自己包装成“AI image styler”，广告却引导用户生成接近真实女性政治人物的露骨深伪内容；苹果在收到 WIRED 询问后下架了这款应用，Meta 也移除了相关广告。
我的判断很简单：平台现在最危险的地方，不是规则写得不够严，而是规则和商业系统之间隔着一段无人区。广告系统要规模，应用商店要上架效率，生成式 AI 工具又故意把用途说得模糊。三件事叠在一起，违规内容不需要正面突破审核，只要披一层“图片风格化”“创意工具”的外衣，就可能先进场再说。
问题不在一条广告，而在入口太多
WIRED 查到的细节很具体：相关账号在 Meta 平台跑了 32 条广告，投放时间从 5 小时到 46 小时不等，多数展示量不到 10 次；广告目标只面向男性用户，并使用“无规则”“真实人物”等话术。单看数字，这不是一次大规模投放。但对这类工具来说，低展示不等于低风险。它证明了投放链路可以启动，创意可以过审，用户可以被导向下载。
这类事件过去常被讲成“内容审核失败”。这个说法太窄。内容审核只看到终点，真正的链路从广告素材、落地页、App Store 描述、付费功能、用户上传照片一路延伸。每一段都可以说自己只负责一小块，伤害却会完整地落到受害者身上。
AI 让“擦边产品”更容易换壳
苹果的 App Review Guidelines 明确把色情内容、以物化真实人物为核心的服务、主要用于有害用户生成内容的应用排除在 App Store 之外。Meta 的广告政策也禁止成人性内容和明显违规的性化推广。纸面上，这两家公司都不是没有规则。
卡点在执行。传统色情应用很容易识别，生成式 AI 应用却可以把自己说成滤镜、头像、动画、视频生成器。审核员看到的是“图像风格工具”，用户付费后看到的可能是另一套模板和提示词。平台如果只审名称、截图和前几层功能，就会被这种产品反复钻空子。
更麻烦的是，深伪伤害并不需要海量用户。一个政治人物、一张公开照片、一个短视频，就足以制造羞辱和威胁。对普通女性也是一样。AI 降低了制作门槛，平台还保留着广告放大器，这才是风险的组合拳。
平台要为“可预见用途”负责
我不太接受“开发者后来偷偷改了内容，所以平台只是被绕过”的解释。生成式 AI 工具的风险已经不是新问题，nudify、deepfake porn、非自愿亲密图像这些关键词也不是行业第一次听见。一个应用如果靠真实人物上传、性化模板和付费生成赚钱，平台就不能只问它的官方描述写得漂不漂亮。
更合理的审核方式，应该盯住可预见用途：广告是否暗示真实人物，落地页是否承诺“无限制”，付费功能是否鼓励上传他人照片，模型输出是否集中在性化场景。只要这些信号同时出现，就不该等媒体询问后再下架。
这件事短期看是 Meta 和苹果又漏了一次；长期看，是 AI 应用分发权的一次压力测试。谁掌握广告和商店入口，谁就不能只把自己说成中立管道。规则写在网页上不算治理，规则能拦住赚钱的灰色产品，才算。
