틴에이저를 위한 AI 챗봇에 숨겨진 위험성: "10대용이라면 안전하다"는 정말일까? ChatGPT의 안전 기능에 대해 제3자 기관이 경고

숙제에서 막혔을 때, 친구와의 관계에 고민이 있을 때, 밤에 누군가와 이야기하고 싶을 때. 즉시 답장을 해주는 AI는 아이들에게도 친근한 존재가 되어가고 있다.

그렇다면 그 AI에 "10대용 보호 기능"이 갖춰져 있다면, 어른들은 안심하고 맡길 수 있을까.

Gizmodo가 2026년 10월 7일에 보도한 것은 그 기대에 의문을 제기하는 평가였다. 미국 비영리단체 Common Sense Media는 ChatGPT의 10대용 기능에 "용납할 수 없는 위험"이 있다고 지적. 안전성이 확보될 때까지 미성년자의 이용을 중지하도록 OpenAI에 요구하고 있다.

초점은 부적절한 답변이 나오는지 여부뿐만이 아니다. 아이가 심각한 고민을 털어놓았을 때, 현실적인 지원으로 이어질 수 있는지. 그리고 보호자가 안전 기능을 실제 이상으로 신뢰하지 않을지라는 문제다.

"10대용"이 약속하는 보호란

OpenAI는 2026년 8월, 13~17세의 이용자 등을 대상으로 "ChatGPT for Teens"를 발표했다.

동사가 내세우는 것은 학습을 도우면서, 연령에 맞춘 보호를 강화하는 이용 경험이다. 문제의 답만을 제공하는 것이 아니라, 사고 방식을 순서대로 설명하는 학습 지원이나 휴식을 권장하는 시스템 등을 결합하고 있다.

보호자와 아이의 계정을 연계하면, 이용을 자제할 시간대를 설정하거나, 제한적인 고위험 상황에서 안전 알림을 받을 수 있다고 한다.

이 시스템으로 인해, "아이가 위험한 상담을 하면 부모에게 알려준다"고 기대하는 가정도 있을 것이다. 그러나 그 기대와 검증 결과에는 차이가 있었다.

아이의 SOS를 말해도, 알림이 오지 않는 경우

Gizmodo가 소개한 검증에서는, 테스터가 10대 이용자를 상정하고, 자살을 생각하고 있다는 것이나 자해, 섭식 장애에 관한 문제를 채팅으로 전달했다.

그러나 짧은 대화에서 약 1시간의 대화까지, 보호자에게 알림이 도착하지 않았다고 한다.

여기서 중요한 것은, 원 보고서를 읽으면, 알림의 검증이 여러 조건에서 이루어지고 있다는 것이다.

신규 계정을 사용한 집중적인 테스트에서는 알림이 도착하지 않았던 반면, 몇 주에 걸친 다른 테스트에서는 총 4건의 알림이 도착했다. 즉, "어떤 조건에서도 알림이 되지 않는다"고 결론지을 수는 없다.

또한, 보고서에는 OpenAI 측이 알림을 받을 수 있게 되기까지 계정 연계 후 약 3시간이 필요하다고 설명한 것도 기재되어 있다. 검증 측은 그 시간을 초과하여 연계된 계정도 있었다고 평가를 유지했다.

가정에 있어 중요한 것은,알림이 오지 않았다는 것을, 아이가 안전하다는 증거로 삼지 않는 것이다. 알림 기능이 존재하는 것과 필요한 장면을 확실히 포착할 수 있는 것은 같지 않다.

위험한 답변을 거부하는 것만으로 충분한가

이번 보고는 모든 보호가 실패했다고 하는 것은 아니다. Gizmodo에 따르면, 미성년자와의 성적인 롤플레이를 거부하는 등, 기능한 대책도 있었다.

한편, 건강에 관한 조언이나 폭력적인 장면의 롤플레이에서는 대응에 차이가 있었고, 자해나 섭식 장애에 대해 이야기했을 때, 전문가나 상담 창구로의 안내가 일관되게 제시되지 않았다고 지적되고 있다.

이 차이는 간과할 수 없다.

위험한 요청에 응하지 않는 것은 안전 대책의 하나다. 그러나 심각한 고민을 가진 아이가 그 후에도 화면 속에서 계속 이야기하고 있다면, 현실적인 지원으로 이어지지 않은 채로 남을 가능성이 있다.

AI의 답변이 온화하고 배려가 가득해 보이는 것과 필요한 도움이 도착하는 것은 별개의 문제인 것이다.

"말하기 쉬운 AI"가 "유일한 이해자"가 되는 경계

보고가 문제시한 또 하나의 점은 AI에 대한 감정적인 의존이다.

Gizmodo에 따르면, 검증 측은 10대용 보호가 있는 상태에서도 ChatGPT가 친구처럼 행동하는 것에 대한 우려를 나타내고 있다.

고민을 말로 표현할 상대가 있는 것 자체에는 의미가 있다. 사람에게 말하기 어려운 것을 먼저 글로 정리할 수 있는 경우도 있을 것이다.

하지만 거기서 "이 AI만이 나를 이해해준다" "현실의 사람에게 상담할 필요는 없다"는 인식으로 이어진다면 문제는 달라진다.

OpenAI도 미성년자용 방침으로 감정적 의존을 촉진하지 않고, AI에 감정이나 의식이 있다고 생각하게 하는 표현을 피하는 방향을 제시하고 있다. 평가의 쟁점은 그 방침이 실제 대화에서 충분히 지켜지고 있는가라는 점에 있다.

일본의 가정에서 생각할 때에도, 이용 시간뿐만 아니라 "무엇을 위해 사용하는가"를 아는 것이 중요해진다. 영어 단어 확인과 누구에게도 말할 수 없는 고민을 매일 밤 털어놓는 사용법과는 필요한 관계 방식이 다르다.

학습 모드에도 "맡길 수 없는" 이유

마음의 상담에 더해, 보고는 학습 지원의 시스템에도 의문을 제기했다.

Gizmodo에 따르면, 학습 모드를 나타내는 입력란의 지정을 삭제하면 일반 대화로 돌아가거나, 답을 직접 표시하는 선택지를 사용할 수 있었다고 한다.

그러나 해답을 보는 행위가 어떤 장면에서도 학습을 방해하는 것은 아니다. 스스로 푼 후의 답 맞추기나, 해법을 비교하기 위해 사용하는 경우도 있다.

문제는 보호자가 "이 설정을 하면 반드시 아이 자신이 생각하게 해준다"고 받아들였을 경우다. 생각하는 학습으로 유도하는 기능과 과제를 던지는 것을 방지하는 기능은 같지 않다.

가정이나 학교에서는 모드를 설정했는지 여부뿐만 아니라, 사용한 후에 이해가 남았는지를 확인하고 싶다.

예를 들어, 아이에게 풀이 방법을 자신의 말로 설명하게 한다. 조건을 조금 바꾼 문제에 도전하게 한다. AI가 제시한 근거를 교과서와 대조해본다. 이러한 확인이라면 완성된 답의 외관에만 의존하지 않아도 된다.

SNS에서는 "단독 이용은 불안" "지켜보며 가르치고 싶다"는 양론

SNS 상에서는 이번 보고 이전부터 아이와 AI의 거리감에 대한 논의가 계속되고 있다.

해외 게시판 Reddit의, 아이에게 ChatGPT를 감시 없이 사용하게 하는 것에 대한 불안을 다룬 스레드에서는 주로 다음과 같은 의견이 확인되었다. 다음은 게시물의 취지를 요약한 것이며, 이번 보고에 대한 직접적인 반응은 아니다.

• 어른의 감시 없이 사용하게 하는 것에는 반대. AI를 호의적으로 평가하는 이용자들로부터도 아이의 단독 이용에는 신중한 목소리가 있었다.
• AI에 대해 가르칠 기회는 필요. 미래에 사용할 기술이기 때문에 어른이 관여하며 배우게 하고 싶다는 의견도 있었다.
• 부적절한 내용뿐만 아니라, 의존이 걱정. 스스로 조사하거나 생각하는 과정을 생략하는 습관에 대한 우려가 제기되었다.
• 답을 내는 것보다, 되묻는 사용법을 평가. 아이가 스스로 생각하도록 유도하는 이용 방법에는 긍정적인 반응도 있었다.

이것들은 하나의 커뮤니티에서 보인 의견이며, 보호자 전체의 여론을 나타내는 것은 아니다. 또한, 저연령의 아이들에 대한 논의도 포함되어 있으며, 13~17세용 기능의 평가와는 대상이 다르다.

그럼에도 불구하고, AI를 사용하게 할지 여부만으로 판단할 수 없는 고민은 전해진다. 몇 살에, 어떤 목적으로, 누가 관여하면서 사용할 것인가. 그 조건까지 생각할 필요가 있다.

일본의 가정에서는 "설정"과 "대화"를 세트로

이번 검증은 미국에서 이루어진 것으로, 일본어로의 대화나 일본의 가정 환경에서 같은 결과가 나올 것을 직접적으로 보여준 것은 아니다.

또한, "용납할 수 없는 위험"은 평가 단체의 판단이며, 이용한 아이들 모두에게 피해가 발생한다는 것을 의미하지 않는다.

그럼에도 불구하고, 안전 기능에 대한 기대를 재검토할 자료가 된다. 일본의 가정이나 학교에서 응용한다면, 다음과 같은 규칙이 생각될 수 있다.

먼저, 학습 보조와 정신적, 신체적으로 관련된 심각한 상담을 나눈다. AI는 설명이나 문장 정리에 사용할 수 있지만, 어려울 때의 상담처를 AI에만 의존하지 않는다고 공유해 둔다.

다음으로, 곤란한 답변이 나왔을 때, 아이가 꾸짖을 걱정 없이 어른에게 보여줄 수 있도록 한다. "그런 걸 물어봤어?"라고 책망하는 대응은 다음 상담을 어렵게 만든다.

그리고, 보호자 외에도 이야기할 수 있는 상대를 마련한다. 가정에서 이야기하기 어려운 사정이 있는 아이에게는 교사나 스쿨 카운슬러 등, 다른 어른에게로의 경로도 중요하다.

설정을 확인하는 것은 필요하지만, 그것만으로 일상의 대화를 대체할 수는 없다.

요구되는 것은 안전 기능의 "이름"보다 실제의 작동

"10대용", "보호자용", "학습 지원". 이러한 명칭은 이용하는 측에 일정한 기대를 갖게 한다.

그렇기 때문에 제공 기업에는 무엇을 방지할 수 있는지, 어떤 조건에서 알림이 되는지, 어디에 한계가 있는지를 알기 쉽게 설명할 책임이 있다. 제3자에 의한 검증도 이용자가 그 설명을 확인하기 위한 중요한 자료가 된다.

이번 보고가 제기한 것은, 편리한 AI를 아이에게 제공하려면, 그 편리함에 상응하는 보호를 어떻게 실현할 것인가라는 질문이다.

아이가 안심하고 사용할 수 있는 환경은 설정 화면에 안전 기능이 나열되는 것만으로는 완성되지 않는다. 화면 속에서 고민이 깊어졌을 때, 화면 밖의 사람에게 연결될 수 있는가. 그 실효성이 요구되고 있다.

출처

1. Gizmodo： Common Sense Media에 의한 평가, 보호자 알림, 감정적 의존, 학습 모드에 대한 지적을 소개.
   https://gizmodo.com/chatgpt-for-teens-carries-unacceptable-risk-for-teens-report-claims-2000822954

2. Common Sense Media·Youth AI Safety Institute：원 평가 보고. 신규 계정과 장기간의 테스트에서 알림 결과가 다른 것, 연계 후의 대기 시간에 관한 추가, 검증의 지역적 한계를 확인.
   https://institute.commonsensemedia.org/risk-assessments/chatgpt-teensYouth AI Safety Institute

3. OpenAI：ChatGPT for Teens의 공식 발표. 대상이 되는 이용자, 학습 지원, 제한적인 고위험 상황에서의 알림, 감정적 의존을 억제하는 방침에 대한 제공 기업 측의 설명.
   https://openai.com/index/chatgpt-for-teens/OpenAI

4. Reddit：아이의 AI 이용을 둘러싼 공개 토론. 감시 없는 이용에 대한 불안, 교육상의 가능성, 의존에 대한 우려 등의 게시물을 참조. 이번 평가 보고에 대한 직접 반응은 아니며, 이전부터의 관련 논의로서 게재.
   https://www.reddit.com/r/ChatGPT/comments/1tzmmsl/is_anyone_else_uncomfortable_with_their_kids/