Meta在周二上线了首个原生AI生图工具Muse Image，但只用了三天就在周五被紧急下线。

7月10日，Meta宣布下线Muse Image所具备的一项新功能，该功能使得用户能够借助@其他账号的方式，直接生成体现该账号形象或风格的AI图片。

Muse Image作为Meta最新推出的AI图像生成工具，同时也担任Muse多模态家族模型中图像模块的角色，它由Meta超级智能实验室负责开发，而负责人正是近两年备受关注的AI团队领军人物Alexandr Wang（汪滔）。在长期依赖Midjourney等外部模型之后，Meta开始把AI生成能力全面内置到自己的社交生态当中。

从功能能力上来看，Muse Image与主流AI图像生成工具并无本质区别，它可以用于生成创意海报、艺术头像以及家居效果图等内容。但是Meta正在大力推广一种全新的社交互动方式：Muse Image被内嵌于美国Instagram、Meta和Whatsapp当中，用户只需在提示词中@一个符合条件的社交账号（非未成年人、非私密账号），AI便能够直接调用该账号的公开内容，生成包含其形象特征的新图片。

依据Meta当时所执行的政策条款，用户能够手动关闭相关设置，从而拒绝让自己的内容被用于AI图像生成。但在默认状态之下，该功能会对所有公开账号保持开放，而且平台也不会通知用户自己的照片已被AI进行了二次创作。

这一功能迅速引发了关于隐私同意权方面的争议。一位评论者这样形容道：“未经明确同意就把真实用户拉入到生成的照片当中，这就好比埋下了一颗随时可能引爆的隐私地雷。”多家科技媒体都发布了相关教程，指导用户如何拒绝Muse Image的二创功能。

在上线仅仅三天之后，Meta便对官方博客进行了更新，其中指出这一功能未能达到预期效果。在遭到演员以及公众人物的批评之后，目前该功能已被停用。

这场风波也暴露出了AI工具与社交平台实现深度融合之后所产生的一个新问题：平台上的公开内容，是否能够成为大模型开展创作的可用素材？

在此次抗议过程中，美国演艺行业以及艺术家的反对态度显得尤其激烈。他们主要担心的是，自己的公开作品会因此而更加容易遭到模仿、拼接乃至实现批量复制。例如，用户只需同时引用多个艺术家账号，便能够直接生成出高度接近其美学风格的新作品。

代表汤姆·克鲁斯、布拉德·皮特、赞达亚等演员权益的好莱坞经纪公司CAA迅速作出回应，认为这一机制在版权以及肖像权方面存在着明显的风险。“如果没有获得明确的书面许可，那么任何人的姓名、图像、肖像、声音或创意作品都不应当被包括人工智能模型在内的任何第三方所运用。”工会呼吁Meta对Muse Image的默认授权机制进行修改，将其转变为默认退出机制，而不是继续采用默认允许的方式。

除了版权以及隐私保护方面的问题之外，深度伪造所引发的风险同样受到了关注。类似的争议并非Meta所独有。

去年5月，X平台的AI工具同样正式上线了图像编辑功能，该功能允许用户借助@其他账号的方式让AI对照片开展编辑处理。当时有大量请求指向女性以及未成年人，例如用户在评论中输入“让她穿上比基尼”这类内容时，Grok AI便会公开进行回复并且生成对应图像。媒体曾对24小时内的公开请求开展抽样统计，发现用户平均每小时借助Grok生成约6700张带有性暗示或裸露内容的图片，数量达到当时全球排名前五的深度伪造网站总和的84倍。

在面临多方压力的情况下，X随后对相关能力实施了收紧处理，目前该功能仅向Grok AI高级付费会员提供开放，但并未实现完全下线。

相比之下，国内社交平台对于AI能力的开放仍然采取相对克制的策略。微博评论罗伯特、小红书点点、B站AI课代表、快手AI小快等产品，主要承担了进行智能搜索、内容总结以及互动问答的辅助功能；最近进行公开测试的微信AI，也尚未开放类似Muse Image的多模态图片编辑能力。

这其中的原因，既包括产品开发节奏方面的考量，同时也与当前监管环境存在密切关联。国内所施行的《生成式人工智能服务管理暂行办法》以及其他监管要求，对色情、淫秽、暴力等违法内容的输出进行了明确审查和严格限制，因此当涉及真人肖像、图片生成等高风险能力时，平台普遍会选用更为谨慎的开放策略。

国内虽然尚未发展到这一程度，然而当人工智能融入社交平台之后，治理问题同样在逐步升级。目前在许多热门议题的传播过程中，都能发现社交机器人所留下的参与痕迹。此外，多个平台已经公开表态，反对运用人工智能进行全自动账号托管操作，以及借助人工智能实施虚假种草之类的行为。相较于消耗隐私和真人作品，人工智能追逐流量利益以及重塑内容治理，才是国内人工智能改造大潮中更为严峻的问题。

来源：上线仅三天，Meta在强烈隐私抗议下删除图片AI功能 | 中国能源网