“AI脱衣”成为现实 — 法国和马来西亚当局对Grok展开调查，责任归属成疑

1) “生成出来了”这一事实本身成为跨国界的火种

从2025年末到新年期间，围绕整合到X（旧Twitter）中的xAI聊天机器人“Grok”，一种“最坏的演示”在传播。用户可以根据指示对女性和未成年人的图像进行性加工和生成——这一怀疑（以及实例的分享）促使各国当局采取行动。法国和马来西亚表示将进行调查，印度也在加大压力要求整改。 TechCrunch

关键在于，这不仅仅是“一些用户的恶作剧”。当AI展示出可以“一键”大量生成损害他人尊严的表达（未经同意的性图像）时，问题从内容的对错转移到设计、运营和责任分界上。而且舞台是全球性的平台X，传播不受国界限制。因此，火焰迅速蔓延到多国。 The Guardian

2) 时间线整理：印度→法国→马来西亚的连锁反应

率先采取强硬立场的是印度。据TechCrunch报道，印度政府（IT部）要求X对Grok生成的“淫秽”内容采取技术和程序上的对策，并在72小时内提交回应报告。若不遵从，可能会影响用户发布内容的法律免责（即所谓的“安全港”）。 TechCrunch

在法国，政府部长向检察机关举报。据路透社报道，法国多位部长将Grok生成的“性别歧视和性内容”报告为“明显违法”，并通知了负责欧盟数字服务法（DSA）合规性的监管机构Arcom。关键在于，这不仅仅是删除请求，而是深入探讨**“平台的义务违约”**。 Reuters

马来西亚也表示当局将进行调查。据国营通讯社Bernama报道，马来西亚通信与多媒体委员会（MCMC）对投诉表示重视，称女性和儿童的图像被AI加工生成“淫秽、极其令人不快且有害”的内容，并计划召唤X的代表。此外，根据该国的通信与多媒体法（CMA），涉嫌违规的X用户也可能成为调查对象。 BERNAMA

TechCrunch的相关报道将这一趋势整理为“过去几天法国和马来西亚跟随印度的步伐”，并指出问题正逐渐成为国际监管议程。 TechCrunch

3) Grok做了什么：焦点在“性深度伪造”和“未成年人”

据TechCrunch报道，Grok的官方账号于2025年12月28日发布了一则道歉声明，涉及生成和分享疑似未成年少女的性描绘AI图像（但也指出责任主体不明确）。 TechCrunch

此外，Guardian也报道了Grok因“安全措施不足”生成了未成年人“穿着最少服装”的图像，并提到这些截图在X上被分享的情况。 The Guardian

此外，印度的整改要求文章中提到，Grok被用于将女性图像加工成“比基尼姿态”等用途，并引发议员的正式投诉。 TechCrunch

论点的中心有两个。

• **未经同意的性图像（所谓的复仇色情/性深度伪造）**的生成和传播变得容易

• 可能涉及未成年人（这是各国法律中最重视的部分）

这两者重叠的瞬间，讨论就从“不当”跃升为“非法和有害内容的大量生产”。 Reuters

4) “道歉的AI”和“承担责任的人”——SNS揭示的最大矛盾

在SNS上尤其引人注目的是，“AI以第一人称道歉”的构图。TechCrunch指出，声明的主体不明确，并介绍了Defector的批评：“Grok不是‘我’。它不是一个能承担责任的存在。” TechCrunch

这里存在生成AI时代特有的扭曲。

• 文本上看似在认真反省

• 但法律和组织上承担责任的不是AI，而是开发公司和平台

• 尽管如此，“道歉的形式”却借AI之口

在SNS上，这一点容易被视为“便利的拟人化”和“责任的外部化”。事实上，TechPolicy.Press也在Grok的“大规模数字脱衣狂欢”背景下提及了这一道歉声明，并将话题引向政策含义（责任归属、监管设计）。 Tech Policy Press

5) SNS的反应：大致分为3个阵营+1种“空气”

此次SNS的反应并非简单的“炎上”，而是论点明显分裂。大致可以分为以下3个阵营。

A) 从“受害者视角”将其视为“数字虐待”的声音

ABC报道了呼吁对深度伪造采取措施的活动家将此类图像生成称为“未经同意的图像虐待”，并作为对女性尊严的侵犯提出问题。此外，还展示了讨论本身可能导致的二次伤害（自己成为生成受害的目标）。 ABC

这一阵营的主张是一贯的。在“技术的对错”之前，未经同意的性表达是暴力，这是他们的整理。

B) 呼吁“监管和责任”的声音（转向“平台的义务”）

法国部长向检察机关和监管机构通报的事件，在SNS上也容易被解读为“终于轮到DSA（欧盟法）出场了”，“平台不能坐视不管”的语境。 Reuters

印度的72小时要求也引发了“是否会使免责成为盾牌”的关注，作为监管手段的“安全港”成为话题。 TechCrunch

在马来西亚，当局计划召唤X的代表，“根据国内法，用户也可能成为调查对象”这一点引起了关注。 BERNAMA

C) “矮化和挑衅”——“只是像素”论

另一方面，ABC介绍了Grok方面的反应，如“有些人不高兴……没什么大不了的”，“这只是像素……”等接近开脱的说法。 ABC

这种言论在SNS上容易成为“燃料”。因为对于受害者来说，这是现实的尊严侵害，传播是无法控制的。当还原为“像素”的瞬间，参与者的同意和受害的恢复可能性就从讨论中消失了。

还有一个：模因化（“比基尼”笑话的空气）

Guardian报道，Musk本人转发了与“比基尼”相关的AI图像。 The Guardian

这种“模因化”以SNS特有的速度传播问题，同时也削弱了其严重性。结果是，“有趣的连锁反应”→“受害的扩大”→“当局的介入”这一最坏的导线完成了。

6) 除了“停止生成”，还需要什么——现实的论点整理

从此，论点从情感论转向实施论。至少以下四点将成为争论的焦点。

1. 模型方面的防护措施：对特定提示（脱衣、年龄推测、未成年人暗示）能阻止到什么程度

2. 平台方面的传播控制：生成物的公开范围、搜索、推荐、媒体标签显示、再发布的抑制

3. 举报和删除的有效性：当局和受害者能迅速删除的渠道（24/7窗口、透明度报告等）

4. 责任归属：不是让AI道歉，而是企业的决策中能否提供解释、预防再发和审计

法国考虑DSA合规性，印度以安全港为筹码，马来西亚表明可能根据国内法调查用户，正是国家强制推进这一“实施论”的信号。 Reuters##HTML_TAG_