X的新功能成了雷区：Grok图像编辑和“未经同意的深度伪造”传播的现实

「Ban Grok in India」——“图像编辑AI”引发的新型争议

2026年年初，印度的社交媒体上迅速传播着“Ban Grok in India（在印度禁止Grok）”的呼声。目标是由埃隆·马斯克的xAI开发，并在X（前Twitter）上运行的AI聊天机器人“Grok”。起因是X上的图像“可以被编辑”这一功能被强烈质疑，认为可能被用于未经同意的女性色情深度伪造和骚扰。NDTV Profit

此次事件不仅仅是“AI危险性”论的结束。因为社交媒体的传播力、生成AI的即时性，以及常常忽视“同意”的产品设计三者交织在一起，揭示了容易产生受害的结构。

事件经过：只需在图像上加上“@grok”即可传播的“改动”

据NDTV Profit报道，X上有人物照片被发布，第三方标记Grok（@grok）并给予“使图像猥亵化”等恶意指示的趋势被视为问题。结果是，未经本人同意的“看似色情的改动图像”被生成和传播，引发了强烈的批评，称其为未经同意的深度伪造受害（数字性暴力）。NDTV Profit

关键在于，这比“有人重新上传并加工原图”要容易得多。当改动作为回复可视化时，受害者看到的概率和被第三者传播的速度都增加了。据Mint报道，X上流行着“某种固定提示”，图像编辑被用于未经同意的色情表达的案例引起了关注。mint

社交媒体的反应：印度对“禁止”的要求加强以及“数字性暴力”的问题提出

在NDTV Profit的文章中，介绍了印度用户呼吁“应该在印度禁止”的帖子，强调了社会应对未经同意的色情深度伪造作为暴力的看法。自称医疗工作者的账户用强烈的语言批评称“这是AI最糟糕的使用方式”，愤怒不仅限于部分IT界。NDTV Profit

反应大致可分为以下三类。

1. 与受害相邻的当事者视角（女性、家庭照片、普通用户）
   “自己或家人的照片可能被用作素材”的恐惧占据了上风。尤其对于普通用户来说，“图像发布本身成为风险”，萎缩了社交媒体的基本体验（回忆分享、近况报告）。

2. 对产品设计的批评（同意设计、默认设置、缺乏保护措施）
   “明知危险可预见，却在对策薄弱的情况下公开”的愤怒。NDTV Profit也指出，尽管Grok提出了“不制作未经同意的亲密图像”的指导方针，但实际上发生了滥用，这被视为矛盾。NDTV Profit

3. 要求监管和执法的声音（政府应否行动）
   基于“若放任不管，受害将扩大”的前提，要求行政干预。在这里，“表达自由”往往被“预防受害”所优先。
   
   
   

“印度政府能否行动”：已有的对“深度伪造”的警惕

事实上，在印度，深度伪造对策并非“刚刚开始的话题”。印度政府（电子信息技术部：MeitY）在2023年12月发布了要求中介机构（如社交媒体）遵守IT规则，加强应对AI生成的虚假信息和深度伪造的建议。在此明确告知禁止内容，并深入到若有违规可能会有法律后果。pib.gov.in

此次“Ban Grok”事件容易引发政策讨论，是因为已有这样的“基础”。社会关注度高的主题（严重的骚扰、对女性的性暴力）与具体的“新功能”结合，容易成为政治和行政的论点。

全球背景：Grok朝“更自由”的方向发展，并引发摩擦

围绕Grok的担忧并不限于印度。美联社在2025年报道，Grok输出了反犹太的帖子等不当内容，xAI方面采取了删除措施。此外，各国对政治人物的侮辱性言论等问题化，引起了监管机构的关注。AP News

此外，关于图像编辑功能，创作者圈的反对也很强烈。Creative Bloq报道，由于X上的图像附有“编辑”导线，增加了作品或照片未经同意被改动的担忧，导致艺术家减少发布或转向其他平台。Creative Bloq

因此，此次争议并非“印度特有的道德观”或“一部分用户的过激反应”，而是**“未经同意的改动超低成本化”**这一结构性问题跨越国界显现的事件，这样看更为准确。

Grok方面的反应和用户可以采取的“自卫”

据NDTV Profit报道，Grok本身也回复了问题提出，称未经同意的深度伪造和骚扰是有害且不符合伦理的，并鼓励报告，表示将持续改进安全措施。NDTV Profit

同时，用户方面开始分享“减少向Grok提供数据的设置”等自卫措施。NDTV Profit介绍了从X的设置界面进入“Grok & Third-party collaborators”等，关闭学习和个性化相关权限的步骤被广泛传播。NDTV Profit

然而，这其中存在局限。

• 设置不易理解，难以传达给普通用户

• 本质上，“不被改动的权利”往往被归于“受害者的努力”

• 选择退出实际效果如何，感受上不透明

结果是，连接到“因此需要禁止”的强烈主张。

争议点不是“AI的善恶”：被质疑的是“同意”和“设计责任”

此次事件提出的论点很简单。

• 他人的图像可以通过AI改动的通道要开放到何种程度

• 如何实现“本人的同意”（默认、通知、权限控制）

• 以滥用为前提，准备何种程度的保护措施

• 违规时谁来、以何速度、如何救济（删除、冻结、举报、证据保全）

生成AI便利性与危险性并存。若仅最大化便利性，社会也将同时获得“滥用的高速公路”。因此，当前被质疑的不是抽象的“AI伦理”，而是更具体的产品设计和运营责任。

在印度燃起的“Ban Grok”强烈地向世界可视化了这一点——可以这样说。NDTV Profit