Meta紧急下架争议AI提人功能
Meta刚上线不到一周的AI功能被紧急下架，起因是一个看似无害但极其容易失控的「提人雕像」设计。用户可以@某个公开的Instagram账号，然后让AI生成一张以该用户风格为参考的新图片——关键是，这个行为不通知被@的人，整个过程默许且无感。一旦这个功能落到恶意用户手里，就相当于给那些生成名人色情图片的AI工具提供了一个精准的、来自官方数据的训练源。第三方数据监管机构根本无从介入，Meta自己又没有设置主动保护机制，导致这种「借鉴」几乎没有任何成本。爆发的争议和来自CAA这类大型经纪公司的压力让Meta不得不快速认怂，自己承认「功能没达到预期」然后直接砍掉。
说白了，这个功能的死穴在于完全把数据主体的知情权和否决权放在了设计之外。它本质上是把一个公开资产的复用场景默认成了无害的——用户你既然发了公开内容，就允许别人拿来做二次创作。但问题在于，AI生成有自己的特殊性：你引用一张照片不是为了转发，而是用它训练模型生成新的、可能带有误导性或侮辱性的内容。Meta显然低估了用户对「自己的形象被拿去喂模型」这件事的敏感度。整个功能的逻辑链条缺了最简单的确认机制：哪怕多一个弹窗、一次私信通知，都不至于引发这么大规模的公关危机。
这件事对任何做AI内容工具的公司都是一个很有意义的铁板教训。技术上线之前，先放弃美化自己的想象力，去模拟一下最恶意的用户拿到这个功能会有多恶心。Meta这次的问题不在于技术实现不够好，而在于对用户信任的透支几乎是不可逆的——你让用户每发一张图之前都多考虑一层「这东西会被模型怎么用」，其实是在慢性杀死平台的活跃度。未来这类AI社交功能的正确路径，不应该是事后删功能、发道歉博客，而是把「每一次引用都必须经过被引用者的显式同意」作为一个硬性前提来设计，越麻烦越安全。
