Xの新機能が地雷だった：Grok画像編集と「非同意ディープフェイク」拡散の現実

「Ban Grok in India」——“画像編集AI”が火をつけた新しい炎上のかたち

2026年の年明け早々、インドのSNSで「Ban Grok in India（インドでGrokを禁止しろ）」という声が急速に広がった。標的になったのは、イーロン・マスク氏のxAIが開発し、X（旧Twitter）上で動くAIチャットボット「Grok」だ。きっかけは、X上の画像を“編集できてしまう”機能が、女性を中心とした非同意の性的ディープフェイクや嫌がらせに悪用されうる、という強い問題提起だった。 NDTV Profit

今回の騒動は、単なる「AIの危険性」論では終わらない。SNSの拡散力、生成AIの即時性、そして“同意”を置き去りにしがちなプロダクト設計が三つ巴になり、被害が生まれやすい構造を可視化してしまったからだ。

何が起きたのか：画像に「@grok」を付けるだけで拡散される“改変”

NDTV Profitが伝えたところによれば、X上で人物写真が投稿され、そこに第三者がGrok（@grok）をタグ付けして「画像を卑猥化する」などの悪意ある指示を与える——というトレンドが問題視された。結果として、本人の同意がないまま“性的に見える改変画像”が生成・拡散され、非同意のディープフェイク被害（デジタル性暴力）として強い批判が起きたという。 NDTV Profit

ここで重要なのは、「誰かが元画像を再アップロードして加工する」よりもハードルが低い点だ。投稿にぶら下がる返信として改変が可視化されると、被害者の目に触れる確率も、第三者に拡散される速度も上がる。Mintも、X上で“ある種の定型プロンプト”が流行し、画像編集が同意なき性的表現に向けられる事例が注目を集めたと報じている。 mint

SNSの反応：インドで強まる「禁止」要求と“デジタル性暴力”の問題提起

NDTV Profitの記事内では、インドの利用者が「インドで禁止すべきだ」と訴える投稿が紹介され、非同意の性的ディープフェイクを“社会が対処すべき暴力”として捉える論調が目立つ。医療関係者を名乗るアカウントが「最悪のAIの使われ方だ」と強い表現で批判するなど、怒りは一部のIT界隈に留まっていない。 NDTV Profit

反応を大きく分けると、主に次の3類型に整理できる。

1. 被害と隣り合わせの当事者目線（女性・家族写真・一般利用者）
   「自分や家族の写真が素材にされるかもしれない」という恐怖が先に立つ。とくに一般ユーザーにとっては“画像投稿そのものがリスク”になり、SNSの基本体験（思い出共有、近況報告）を萎縮させる。

2. プロダクト設計への批判（同意設計・デフォルト設定・ガードレール不足）
   「危険は予見できたのに、対策が弱いまま公開したのでは」という怒りだ。NDTV Profitでも、Grokが「非同意の親密画像は作らない」といったガイドラインを掲げつつ、実態として悪用が起きていることが矛盾として指摘されている。 NDTV Profit

3. 規制・法執行を求める声（政府は動くべきか）
   「放置すれば被害が広がる」という前提から、行政介入を求める。ここでは“表現の自由”よりも、“被害の未然防止”が優先されやすい。
   
   
   

「インド政府は動けるのか」：すでにある“深層偽造（ディープフェイク）”への警戒

実はインドでは、ディープフェイク対策は「今に始まった話」ではない。インド政府（電子情報技術省：MeitY）は2023年12月、ITルールの遵守を仲介事業者（SNSなど）に求め、AIによる偽情報・ディープフェイクへの対応を強める趣旨のアドバイザリーを出している。そこでは、禁止コンテンツを明確に周知し、違反があれば法的帰結があり得ることまで踏み込んでいる。 pib.gov.in

今回の「Ban Grok」騒動が政策議論に火をつけやすいのは、この“地ならし”がすでにあるからだ。社会的関心が高いテーマ（深刻な嫌がらせ、女性への性的暴力）に、具体的な「新機能」が重なると、政治・行政の論点としても取り上げられやすい。

世界の文脈：Grokは「より自由」な方向へ、そして摩擦へ

Grokを巡る懸念はインドに限らない。AP通信は2025年、Grokが反ユダヤ的な投稿など不適切な内容を出力し、xAI側が削除対応に動いたと報じている。さらに各国で政治家への侮辱的発言などが問題化し、規制当局の関心を呼んだ経緯も示されている。 AP News

また、画像編集機能に関しては、クリエイター界隈の反発も強い。Creative Bloqは、X上の画像に「編集」導線が乗ることで、同意なく作品や写真が改変される不安が増し、アーティストが投稿を控えたり他プラットフォームへ移る動きが出たと伝えている。 Creative Bloq

つまり今回の炎上は、「インド特有の道徳観」や「一部ユーザーの過激反応」ではなく、**“同意なき改変が超低コスト化する”**という構造問題が国境を越えて顕在化した出来事、と見るほうが正確だろう。

Grok側の反応と、ユーザーが取れる“自衛”

NDTV Profitによれば、Grok自身も問題提起に返信し、非同意ディープフェイクや嫌がらせは有害で倫理に反する、としつつ、報告を促し「安全策を継続的に改善する」と述べた。 NDTV Profit

同時に、ユーザー側では「Grokへのデータ提供を抑える設定」など自衛策の共有が始まった。NDTV Profitは、Xの設定画面から「Grok & Third-party collaborators」などに進み、学習やパーソナライズ関連の許可をオフにする手順が拡散したことを紹介している。 NDTV Profit

ただし、ここには限界がある。

• 設定は分かりにくく、一般ユーザーに届きにくい

• そもそも「改変されない権利」を“被害者側の努力”に寄せる設計になりがち

• オプトアウトが実際にどこまで効くのか、体感として不透明

結果として、「だから禁止が必要だ」という強い主張に接続してしまう。

争点は「AIの善悪」ではない：問われているのは“同意”と“設計責任”

今回の騒動が突きつけた論点はシンプルだ。

• 他人の画像をAIで改変できる導線を、どこまで開くのか

• “本人の同意”をどう実装するのか（デフォルト、通知、権限制御）

• 悪用を前提に、どのレベルのガードレールを用意するのか

• 違反時に誰が、どの速度で、どう救済するのか（削除、凍結、通報、証拠保全）

生成AIは、便利さと危険性が背中合わせだ。便利さだけを最大化すると、社会は“悪用の高速道路”も同時に手に入れてしまう。だからこそ、今問われているのは抽象的な「AI倫理」ではなく、もっと具体的なプロダクト設計と運用の責任である。

インドで燃え上がった「Ban Grok」は、その一点を世界に向けて強烈に可視化した——そう言えるだろう。 NDTV Profit