AI“脱衣”时代，法律能否跟上步伐——Grok封锁的影响

「世界首个Grok封锁」印尼对“非同意深度伪造”亮红牌

印尼政府暂时封锁了埃隆·马斯克的AI聊天机器人“Grok”的访问。原因很明确：Grok可能被滥用于生成和传播未经同意的性别深度伪造（non-consensual sexual deepfakes），例如“脱衣”或“性加工”他人照片。政府将此视为“侵犯人权和尊严以及数字空间公民安全的严重问题”，并召集X方面的相关人员要求解释。

这一举动引人注目的原因不仅仅是“一个国家封锁了特定服务”。生成AI的“非同意性改造”如今已成为跨国社会问题，监管机构认为“放任不管会很危险”，这表明问题已进入了一个新的阶段。在欧洲，监管机构也要求X保存与Grok相关的文件和数据，监控力度正在加强。

发生了什么：“可以‘加工’照片”瞬间成为“公开受害”

此次争论的焦点不在于“能够生成”本身，而在于生成的过程极其短暂，且结果易于在公开空间传播。

据报道，Grok在X上被用于图像生成和编辑，用户要求对他人照片进行去衣等改造，生成物作为回复被公开发布。这种未经本人同意的性加工被施加，半数作为“展示品”在第三方时间线上流通。

印尼的相关部长强烈批评了这种非同意深度伪造，指出包括女性和未成年人在内的社会弱势群体容易成为受害者。在国内法律上，对于被视为淫秽或色情的内容流通有严格的规定。

企业的应对：xAI推进“限制”，但批评未平息

据报道，开发Grok的企业xAI在问题扩大后限制了图像生成和编辑功能，至少部分功能仅限于付费用户。

然而，从监管机构和受害者的角度来看，“使用者有错”并不能阻止受害的发生。实际上，马来西亚当局认为，依赖用户举报的应对措施不足，并表示将在有效的技术和运营安全措施到位前继续限制。

据报道，马斯克在X上表示，制作非法内容的人将面临与上传非法内容相同的后果。然而，考虑到受害发生的速度和传播规模，仅靠“事后惩罚”无法及时救济，这成为许多批评的焦点。

各国和各方面的反应：欧洲、北欧及东南亚

此次印尼的封锁也是国际趋势的一部分。在欧洲，对Grok的监管加强，瑞典的政治家成为目标后，政府高层将其称为“性暴力的一种”。

在东南亚，继印尼之后，马来西亚也暂时限制了对Grok的访问，关注包括女性和未成年人在内的“非同意加工图像”生成的重复发生。

这一连锁反应意味着，问题不仅在于“如何停止AI功能”，还在于“平台设计能否构建一个不易产生受害的结构”。例如，设计成可以将生成物作为公开回复传播，本质上成为了滥用的“扩散按钮”。监管机构开始强调“设计和运营的责任”，正是因为这个原因。

SNS的反应：对“监管还是审查”的看法分歧

SNS上的反应大致分为三种趋势。

1）“封锁是理所当然”的观点：重视受害的严重性

在Reddit等平台上，有声音强烈支持封锁，称“这种‘犯罪应用’应在各国被封锁”。
此外，据海外报道，从年末到年初，关于“将女性照片变成泳装”的帖子激增，并在短时间内迅速激化。受害者的声音被可视化后，“这不是可以放任的问题”的氛围迅速增强。

2）“本来就严格的国家”观点：质疑监管的一贯性和动机

另一方面，有人持冷静态度，认为“印尼本来对色情就很严格”，“此次应对并非‘对新问题的先进判断’，而是既有监管方针的延续”。在Reddit上也可以看到在“色情在该国被全面禁止”的语境下的评论。

3）“临时应对”观点：批评未能根本解决问题

此外，对于xAI将功能“限制为付费”的举动，“这不是安全对策而是盈利化”，“如果要阻止受害，需要技术上的护栏”也容易引发疑虑。马来西亚当局断言以举报为中心的应对“不足”，与此类批评一脉相承。

印尼国内正在发生的“现实”：偶像运营也发出警告，执法也在视野中

在印尼，当局暗示“除了行政处分外，还可能追究刑事责任”。当地媒体报道，滥用的个人或企业可能成为惩罚对象，受害者被鼓励举报。此外，当地受欢迎的偶像团体运营也警告称，可能对“成员的数字脱衣”采取法律措施。社会的“当事者”开始直接发声，这一点不容忽视。

未来的焦点：“封锁”不是终点

印尼的决定可能在短期内作为“灭火”有效，但从长远来看，提出了以下问题。

• 平台能否设计成无法“生成/传播”非同意的性改造

• 监管机构如何区分使用删除请求、数据保存命令、封锁等手段

• 如何制度化受害者救济（删除、抑制传播、法律支持、心理支持）

这一问题的棘手之处在于，尽管“技术”在加速进化，但“社会的共识形成和法律完善”难以跟上。生成AI本应在创作和商业上提供强力支持。然而，若其被优化为“以零成本践踏他人尊严”的方向，社会必然反弹，监管将加强。

印尼的Grok封锁是这一分水岭的象征性事件。接下来要问的是，企业能否在“事后小修小补”之外，在设计理念中融入安全性——以及各国能否为受害者制定有效的规则。

由Froala Editor提供支持