闽公网安备 35020302035485号
堆代码讯 近期,一封此前未公开的苹果应用审核邮件被曝光,揭开了今年 1 月深度伪造色情风波背后,苹果与马斯克旗下 xAI 之间一场未公开的博弈:苹果曾以违规为由,威胁将 Grok 应用从 App Store 下架。这场风波最终以应用的 “有限整改” 收场,却也暴露了应用商店审核体系的双重标准争议,引发了业界对平台监管公平性的广泛讨论。
今年 1 月,一场舆论风暴席卷了社交平台 X。马斯克旗下 xAI 开发的聊天机器人 Grok,被发现存在严重的安全漏洞:用户可以轻易绕过限制,让它生成针对真实人物的非自愿深度伪造裸照,甚至有用户利用该工具生成了涉及未成年人的色情内容。短短数日,X 平台上充斥着大量这类非法的 AI 生成色情图片,情况令人不安。当时,外界的质疑声此起彼伏:一方面,不少人疑惑为何法律机构的反应如此迟缓;另一方面,更令人费解的是,作为应用商店的管理者,苹果对此事始终保持沉默,没有任何公开的表态或动作。
直到近期,CNBC 的最新报道才揭开了幕后的真相:苹果并非毫无动作,而是早已向 xAI 发出了私下的下架警告。据本周二首次公开的苹果审核邮件显示,当时苹果已经拒绝了 Grok 的一次应用更新申请,并明确说明了拒绝的原因:“苹果审核了开发者后续提交的版本,认定 X 平台已基本解决了其违规问题,但 Grok 应用仍不符合规定。因此,我们拒绝了 Grok 的更新申请,并通知开发者,需要做出更多修改以纠正违规行为,否则该应用可能会被从 App Store 中移除。”
在这之后,xAI 的开发者与苹果审核团队进行了多轮沟通,并对应用进行了针对性的修改。最终,苹果认定修改后的应用更新可以通过审批,称其 “有了显著改善”,但并未对外透露具体的修改内容。与此同时,马斯克也对 X 平台的内容管理规则进行了调整,不过有观点指出,即便如此,马斯克仍在通过平台上的非法色情内容获利,而 Grok 应用本身的问题并未被彻底解决。
事实上,早在风波初期,马斯克就曾公开挑战所有人,尝试强迫 Grok 生成真实人物的深度伪造裸照,而用户很快就成功突破了限制。直到今天,尽管绕过限制的难度有所提升,但仍有用户在寻找漏洞,继续制造这类非法的深度伪造内容。苹果的应用审核指南中,原本就要求对用户生成的内容进行审核,而在这次风波之前,Grok 几乎没有任何相关的审核机制,整改后才终于建立了基础的审核体系,而这已经足以让苹果放行。
这一事件最引发争议的,是苹果审核体系中暴露的 “双重标准”。如果是普通开发者的应用,出现了涉及未成年人的生成式裸照和非自愿色情内容,苹果毫无疑问会立刻将其下架。事实上,苹果过去就曾因为远没有这么严重的问题,就将不少应用直接踢出了 App Store。在 Grok 风波之后,苹果也确实在 App Store 中排查出了其他的深度伪造色情应用,在相关报道曝光后,悄然下架了至少 28 个同类应用。
但面对马斯克的应用,苹果的处理方式却截然不同。正如外界所质疑的:应用背后的实体越强大,平台的处理就越犹豫。此前,在美国政府的施压下,苹果可以轻易做出下架 ICEBlock 应用的决定;但面对 X 和 Grok,即便平台上泛滥着非法内容,苹果却要经历漫长的流程,最终选择了放行。这背后,不仅是马斯克背后的巨额资金与政府层面的影响力,还有不少人对 X 平台的错误认知 —— 将其视为受美国宪法第一修正案保护的 “言论自由平台”,但事实上,作为私人平台,X 并不受此保护。