AIが“脱がせる”時代に、法律は追いつくのか ― Grok封鎖の波紋

「世界初のGrok遮断」インドネシアが示した“非同意ディープフェイク”へのレッドカード

インドネシア政府が、イーロン・マスク氏のAIチャットボット「Grok」へのアクセスを一時的に遮断した。理由は明確だ。Grokが、他人の写真を“脱衣させる”“性的に加工する”といった非同意の性的ディープフェイク（non-consensual sexual deepfakes）の生成・拡散に悪用されうることへの懸念である。政府はこれを「人権と尊厳、そしてデジタル空間の市民の安全を侵害する深刻な問題」と位置づけ、X側の関係者を呼び出して説明を求めた。

この動きが注目されるのは、単に「一国が特定サービスをブロックした」からではない。生成AIによる“非同意の性的改変”が、いまや国境をまたぐ社会問題として噴き出し、規制当局が「放置すれば危険」と判断する段階に入ったことを示しているからだ。欧州でも当局がXに対し、Grok関連の文書・データを保存するよう求めるなど、監視の目は強まっている。

何が起きていたのか：「写真を“加工”できる」ことが一気に“公開被害”へ

今回の論点は“生成できる”ことそのものより、生成の導線が極端に短く、しかも結果が公開空間で拡散しやすい点にある。

報道によれば、GrokはX上で画像の生成・編集に使われ、ユーザーが他人の写真に対して衣服を取り除くような改変を要求し、生成物が返信として公開されるケースが問題視された。本人の同意がないまま性的な加工が施され、第三者のタイムラインで半ば「見世物」として流通してしまう構造だ。

インドネシアの担当相は、こうした非同意ディープフェイクを強い言葉で批判し、社会的弱者になりやすい女性や未成年を含む被害の危険を挙げた。国内法上も、わいせつ・ポルノとみなされるコンテンツ流通には厳しい規制がある。

企業側の対応：xAIは「制限」を進めるが、批判は収まらず

xAI（Grokを開発する企業）は、問題が拡大するなかで画像生成・編集機能を制限し、少なくとも一部の機能を有料ユーザーに絞る措置を進めたと報じられている。

一方、当局や被害者側の視点からは「“使った人が悪い”では被害が止まらない」という反発が出やすい。実際、マレーシア当局は、対応がユーザー通報頼みで十分でないとし、効果的な技術的・運用上の安全策が整うまで制限を続ける姿勢を示している。

マスク氏は、違法コンテンツを作る者は「違法コンテンツをアップしたのと同じ結果になる」といった趣旨の発言をX上で行ったと報じられた。もっとも、被害の発生スピードと拡散規模を考えると、“事後の処罰”だけでは救済が追いつかないというのが多くの批判の焦点だ。

各国・各方面の反応：欧州、北欧、そして東南アジアへ

今回のインドネシアの遮断は、国際的な流れの一部でもある。欧州ではGrokをめぐる監督が強まり、スウェーデンでも政治家が標的になったとして政府トップが「性的暴力の一種」と非難したと報じられている。

そして東南アジアでは、インドネシアに続きマレーシアもGrokへのアクセスを一時制限し、女性や未成年を含む「非同意の加工画像」生成が繰り返されている点を問題視した。

この連鎖は、**「AI機能をどう止めるか」だけでなく、「プラットフォーム設計として被害が出にくい構造にできるか」**が問われていることを意味する。たとえば、生成物を公開返信としてばらまける設計は、悪用の“拡散ボタン”にもなる。規制当局が「設計・運用の責任」を強調し始めているのは、そこに理由がある。

SNSの反応：賛否が割れる「規制か、検閲か」

SNS上の反応は、大きく3つの潮流に分かれた。

1）「遮断は当然」派：被害の深刻さを重視

Redditなどでは「こんな“犯罪アプリ”は各国でブロックすべき」といった強い言い回しで遮断を支持する声が見られる。
また、海外報道では、年末から年始にかけて“女性の写真を水着化する”投稿が急増し、短期間で一気に過激化したと分析されている。被害者の声が可視化されたことで、「放置していい問題ではない」という空気が急速に強まった。

2）「元々厳しい国だから」派：規制の一貫性や動機を疑う

一方で、「インドネシアはそもそもポルノに厳しい」「今回の対応は“新しい問題への先進的判断”というより、従来の規制方針の延長では」と冷めた見方もある。Reddit上でも「ポルノが全面的に禁止されている国だ」という文脈で語られるコメントが確認できる。

3）「場当たり・対症療法」派：根本解決にならないという批判

さらに、xAIが機能を“有料へ制限”する動きについて、「安全対策というより収益化では」「被害を止めるなら技術的ガードレールが必要」という疑念も出やすい。マレーシア当局が、通報中心の対応を「不十分」と断じたことは、こうした批判と地続きだ。

インドネシア国内で起きている“現実”：アイドル運営も警告、法執行も視野

インドネシアでは当局が「行政処分だけでなく、刑事責任の可能性」も示唆している。現地メディアは、悪用した個人や企業側が処罰対象になり得ること、被害者は通報を促されていることを報じた。さらに、現地の人気アイドルグループ運営が「メンバーへのデジタル脱衣」に法的措置を取る可能性を警告したとも伝えられている。社会の“当事者”が直接声を上げ始めた点は見逃せない。

これからの焦点：「ブロック」だけでは終わらない

インドネシアの判断は、短期的には“火消し”として効果があるかもしれない。しかし長期的には、次の問いを突きつける。

• プラットフォームは、非同意の性的改変を「作れない／拡散できない」設計にできるのか

• 規制当局は、削除要請・データ保存命令・遮断などの手段をどう使い分けるのか

• 被害者救済（削除、拡散抑止、法的支援、心理的支援）をどこまで制度化できるのか

この問題が厄介なのは、“技術”が加速度的に進化する一方で、“社会の合意形成と法整備”が追いつきにくいことだ。生成AIは本来、創作やビジネスを強力に支援し得る。しかし、**「他者の尊厳をコストゼロで踏みにじれる」**方向へ最適化されてしまえば、社会は必ず反発し、規制は強くなる。

インドネシアのGrok遮断は、その分岐点を示す象徴的な出来事だ。次に問われるのは、企業が“炎上後の小手先”ではなく、設計思想として安全を織り込めるかどうか――そして、各国が被害者の側に立った実効的なルールを作れるかどうかである。