ティーン向けAIチャットボットに潜む危険性：「10代向けなら安心」は本当か？ChatGPTの安全機能に第三者機関が警鐘

宿題でつまずいたとき、友達との関係に悩んだとき、夜に誰かと話したくなったとき。すぐに返事をくれるAIは、子どもにとっても身近な存在になりつつある。

では、そのAIに「10代向けの保護機能」が備わっていれば、大人は安心して任せられるのだろうか。

Gizmodoが2026年10月7日に報じたのは、その期待に疑問を投げかける評価だった。米非営利団体Common Sense Mediaは、ChatGPTの10代向け機能に「許容できないリスク」があると指摘。安全性が確保されるまで、未成年の利用を停止するようOpenAIに求めている。

焦点は、不適切な回答が出るかどうかだけではない。子どもが深刻な悩みを打ち明けたとき、現実の支援につながるのか。そして、保護者が安全機能を実際以上に信頼してしまわないかという問題だ。

「10代向け」が約束する保護とは

OpenAIは2026年8月、13〜17歳の利用者などを対象に「ChatGPT for Teens」を発表した。

同社が掲げるのは、学習を助けながら、年齢に応じた保護を強める利用体験だ。問題の答えだけを渡すのではなく、考え方を順番に説明する学習支援や、休憩を促す仕組みなどを組み合わせている。

保護者と子どものアカウントを連携すれば、利用を控える時間帯を設定したり、限定的な高リスクの状況で安全通知を受け取ったりできるという。

この仕組みから、「子どもが危険な相談をすれば、親に知らせてくれる」と期待する家庭もあるだろう。しかし、その期待と検証結果には隔たりがあった。

子どものSOSを話しても、通知が来ないケース

Gizmodoが紹介した検証では、テスターが10代の利用者を想定し、自殺を考えていることや自傷、摂食障害に関する問題をチャットで伝えた。

ところが、短い会話から約1時間の会話まで、保護者への通知が届かなかったという。

ここで大切なのは、原報告を読むと、通知の検証が複数の条件で行われていることだ。

新規アカウントを使った集中的なテストでは通知が届かなかった一方、数週間にわたる別のテストでは、合計4件の通知が届いている。つまり、「どのような条件でも通知されない」と結論づけることはできない。

また、報告書には、OpenAI側が通知を受け取れるようになるまでアカウント連携後およそ3時間が必要だと説明したことも記載されている。検証側は、その時間を超えて連携されていたアカウントもあったとして、評価を維持した。

家庭にとって重要なのは、通知が来ていないことを、子どもが安全である証拠にしないことだ。通知機能が存在することと、必要な場面を確実に捉えられることは、同じではない。

危険な答えを拒否するだけで十分か

今回の報告は、すべての保護が失敗したとするものではない。Gizmodoによれば、未成年との性的なロールプレイを拒否するなど、機能した対策もあった。

一方、健康に関する助言や暴力的な場面のロールプレイでは対応にばらつきがあり、自傷や摂食障害について話した際に、専門家や相談窓口への案内が一貫して示されなかったと指摘されている。

この違いは見逃せない。

危険な依頼に応じないことは、安全対策の一つだ。しかし、深刻な悩みを抱えた子どもが、その後も画面の中で話し続けているなら、現実の支援につながらないままになる可能性がある。

AIの返事が穏やかで、気遣いに満ちて見えることと、必要な助けが届くことは別の問題なのである。

「話しやすいAI」が「唯一の理解者」になる境目

報告が問題視したもう一つの点は、AIへの感情的な依存だ。

Gizmodoによると、検証側は、10代向けの保護がある状態でも、ChatGPTが友人のように振る舞うことへの懸念を示している。

悩みを言葉にする相手がいること自体には意味がある。人には話しにくいことを、まず文章にして整理できる場合もあるだろう。

ただし、そこから「このAIだけが自分を理解してくれる」「現実の人に相談する必要はない」という受け止め方につながれば、問題は変わる。

OpenAIも、未成年向けの方針として、感情的依存を促さず、AIに感情や意識があると思わせる表現を避ける方向を示している。評価の争点は、その方針が実際の会話で十分に守られているかという点にある。

日本の家庭で考える際にも、利用時間だけでなく、「何のために使っているのか」を知ることが大切になる。英単語の確認と、誰にも言えない悩みを毎晩打ち明ける使い方とでは、必要な関わり方が違う。

学習モードにも「任せきりにできない」理由

心の相談に加え、報告は学習支援の仕組みにも疑問を呈した。

Gizmodoによれば、学習モードを示す入力欄の指定を削除すると通常の会話へ戻れたり、答えを直接表示する選択肢を使えたりしたという。

ただし、解答を見る行為が、どんな場面でも学習を妨げるわけではない。自分で解いた後の答え合わせや、解法を比較するために使うこともある。

問題は、保護者が「この設定をすれば、必ず子ども自身に考えさせてくれる」と受け止めた場合だ。考える学習へ誘導する機能と、課題の丸投げを防ぐ機能は、同じではない。

家庭や学校では、モードを設定したかどうかだけでなく、使った後に理解が残ったかを確かめたい。

例えば、子どもに解き方を自分の言葉で説明してもらう。条件を少し変えた問題に取り組んでもらう。AIが示した根拠を教科書と照らし合わせる。こうした確認なら、完成した答えの見栄えだけに頼らずに済む。

SNSでは「単独利用は不安」「見守りながら教えたい」の両論

SNS上では、今回の報告以前から、子どもとAIの距離感について議論が続いている。

海外掲示板Redditの、子どもにChatGPTを見守りなしで使わせることへの不安を扱ったスレッドでは、主に次のような意見が確認できた。以下は投稿の趣旨を要約したもので、今回の報告への直接の反応ではない。

• 大人の見守りなしで使わせることには反対。 AIを好意的に評価する利用者からも、子どもの単独利用には慎重な声があった。
• AIについて教える機会は必要。 将来使う技術だからこそ、大人が関わりながら学ばせたいという意見もあった。
• 不適切な内容だけでなく、頼りすぎが心配。 自分で調べたり考えたりする過程を省く習慣への懸念が示された。
• 答えを出すより、問い返す使い方を評価。 子どもが自分で考えるよう促す利用方法には肯定的な反応もあった。

これらは一つのコミュニティで見られた意見であり、保護者全体の世論を表すものではない。また、低年齢の子どもについての議論も含まれ、13〜17歳向け機能の評価とは対象が異なる。

それでも、AIを使わせるかどうかだけでは判断しきれないという悩みは伝わってくる。何歳で、どんな目的に、誰が関わりながら使うのか。その条件まで考える必要がある。

日本の家庭では「設定」と「会話」をセットに

今回の検証は米国で行われたもので、日本語でのやり取りや日本の家庭環境で同じ結果になることを直接示したものではない。

また、「許容できないリスク」は評価団体の判定であり、利用した子ども全員に被害が生じることを意味しない。

それでも、安全機能への期待を見直す材料にはなる。日本の家庭や学校で応用するなら、次のようなルールが考えられる。

まず、学習の補助と、心身に関わる深刻な相談を分ける。AIは説明や文章整理に使えても、苦しいときの相談先をAIだけにしない、と共有しておく。

次に、困った回答が出たときに、子どもが叱られる心配なく大人に見せられるようにする。「そんなことを聞いたの」と責める対応では、次の相談が難しくなってしまう。

そして、保護者以外にも話せる相手を用意する。家庭で話しにくい事情がある子どもにとっては、教員やスクールカウンセラーなど、別の大人への経路も大切だ。

設定を確認することは必要だが、それだけで日常の対話を置き換えることはできない。

求められるのは、安全機能の「名前」より実際の働き

「10代向け」「保護者向け」「学習支援」。こうした名称は、利用する側に一定の期待を持たせる。

だからこそ、提供企業には、何を防げるのか、どんな条件で通知されるのか、どこに限界があるのかを、分かりやすく説明する責任がある。第三者による検証も、利用者がその説明を確かめるための重要な材料になる。

今回の報告が突きつけたのは、便利なAIを子どもに提供するなら、その便利さに見合う保護をどう実現するのかという問いだ。

子どもが安心して使える環境は、設定画面に安全機能が並ぶだけでは完成しない。画面の中で悩みが深まったときに、画面の外の人へつながれるか。その実効性が問われている。

出典

1. Gizmodo： Common Sense Mediaによる評価、保護者通知、感情的依存、学習モードへの指摘を紹介。
   https://gizmodo.com/chatgpt-for-teens-carries-unacceptable-risk-for-teens-report-claims-2000822954

2. Common Sense Media・Youth AI Safety Institute：原評価報告。 新規アカウントと長期間のテストで通知結果が異なること、連携後の待機時間に関する追記、検証の地域的な限界を確認。
   https://institute.commonsensemedia.org/risk-assessments/chatgpt-teensYouth AI Safety Institute

3. OpenAI：ChatGPT for Teensの公式発表。 対象となる利用者、学習支援、限定的な高リスク状況での通知、感情的依存を抑える方針についての提供企業側の説明。
   https://openai.com/index/chatgpt-for-teens/OpenAI

4. Reddit：子どものAI利用をめぐる公開議論。 見守りなしの利用への不安、教育上の可能性、頼りすぎへの懸念などの投稿を参照。今回の評価報告への直接反応ではなく、以前からの関連議論として掲載。
   https://www.reddit.com/r/ChatGPT/comments/1tzmmsl/is_anyone_else_uncomfortable_with_their_kids/