OpenAI, "ChatGPT for Teens" 시작 10대의 AI 이용은 "금지"에서 "안전하게 사용"하는 시대로

OpenAI가 "10대 전용 ChatGPT"를 출시

생성 AI가 학교와 가정에 빠르게 침투하는 가운데, OpenAI가 10대 사용자에 특화된 새로운 시스템을 발표했다.

2026년 8월 18일에 발표된 "ChatGPT for Teens"는 13세에서 17세의 사용자를 대상으로 하며, 일반 ChatGPT가 가진 학습, 조사, 아이디어 생성, 창작 등의 능력을 유지하면서 미성년자를 위한 안전 대책을 더욱 강화한 것이다.

단순히 "어린이용으로 기능을 줄인 ChatGPT"라는 위치가 아니다. 특징적인 것은 안전성과 동시에 "AI가 답을 제시하는 것이 아니라 AI와 함께 생각하게 하는" 것을 전면에 내세우고 있다는 점이다.

대상 사용자는 스스로 설정을 변경하여 Teen 모드를 활성화할 필요가 없다. 등록 시 등에서 제시된 연령 정보나 OpenAI의 연령 추정 시스템에 의해 18세 미만으로 판단된 경우, 대상 계정에는 자동으로 10대용 경험이 적용된다.

즉, OpenAI는 미성년자에게 "자기 책임으로 일반 AI를 사용하게 하는" 것이 아니라, 서비스 측에서 처음부터 다른 안전 기준을 설정하는 방향으로 크게 방향을 전환한 것이다.

자해, 폭력, 섭식 장애 등에 강한 가드레일

ChatGPT for Teens에서 가장 중요한 것은 민감한 주제에 대한 안전 대책이다.

OpenAI는 18세 미만의 사용자에 대해 자해나 자살, 폭력, 섭식 장애, 위험한 행위, 성적인 내용, 과도하게 자극적인 이미지나 표현 등, 10대에 악영향을 미칠 가능성이 높은 분야에서 일반보다 강한 제한을 가한다고 한다.

이는 단순한 "특정 단어를 금지하는 필터"와는 조금 다르다.

10대가 고민을 상담해 온 경우, 그 대화를 필요 이상으로 심화시키거나 위험한 행동을 긍정하는 것을 피하고, 현실 세계의 신뢰할 수 있는 어른이나 지원으로 연결하는 것도 중시되고 있다.

특히 주목할 만한 것은 AI와 사용자 간의 "감정적 거리"이다.

OpenAI가 제시하고 있는 미성년자용 방침에서는 ChatGPT가 10대에게 연애 감정을 암시하는 말을 사용하거나, 사용자가 AI에 강하게 정신적으로 의존하도록 유도하거나, 자신에게 의식이나 인간과 같은 감정이 있는 것처럼 행동하는 것을 피하는 방향이 제시되어 있다.

생성 AI가 단순한 검색 도구가 아니라 상담 상대나 대화 상대로 사용되기 시작했기 때문에, "무엇을 답변할 것인가"뿐만 아니라 "어떤 관계를 형성하지 않을 것인가"까지 안전 설계의 대상이 되고 있다.

가장 큰 특징은 "숙제의 답을 그대로 주지 않는다"는 것

안전 대책과 함께 ChatGPT for Teens의 기둥이 되는 것은 교육 기능이다.

생성 AI가 학교 현장에서 확산된 이후, 교사나 보호자를 고민하게 했던 문제 중 하나가 "숙제를 통째로 AI에게 맡기는" 사용법이었다.

영어 작문의 주제를 입력하고 완성된 문장을 생성하게 한다. 수학 문제를 촬영하고 답만 듣는다. 리포트의 주제를 주고 전부 작성하게 한다――.

이러한 사용법을 계속하면, 과제 자체는 짧은 시간에 끝나지만, 본래 과제를 통해 익혀야 했던 사고력이나 문제 해결 능력이 자라지 않는다는 우려가 있다.

그래서 ChatGPT for Teens에서는 "Study Mode"가 중요한 역할을 한다.

예를 들어 수학 문제를 물었을 때, 바로 최종적인 답을 제시하는 것이 아니라, "먼저 무엇을 알고 있나요", "이 공식을 사용하면 어떻게 되나요"와 같은 질문을 되돌려주면서, 사용자가 스스로 생각하게 한다.

모르면 힌트를 제공하고, 이해도를 확인하는 질문을 삽입하며, 단계적으로 해결에 가까워지도록 한다.

가정교사에 가까운 사용법을 목표로 하고 있다고 할 수 있다.

더 나아가 "Responsible Homework Reminders"라고 불리는 시스템에서는, 사용자가 과제를 생각하지 않고 끝내려는 경우, Study Mode를 사용한 단계적인 학습으로 유도한다.

AI가 숙제를 대신하는 것이 아니라, "함께 숙제를 푸는" 방향으로 사용자를 되돌리려는 생각이다.

퀴즈와 Study Hours로 "학습 습관"까지 지원

학습 지원은 질문에 대한 답변만이 아니다.

ChatGPT for Teens에는 이해도를 확인하는 퀴즈 등의 기능도 준비되어 있어, 배운 내용을 자신이 어느 정도 이해하고 있는지 체크할 수 있다.

더 나아가 "Study Hours"를 이용하면, 특정 시간대에 새로운 대화를 시작할 때 Study Mode를 표준적으로 이용하도록 설정할 수 있다.

예를 들어 가정에서 "오후 7시부터 9시까지는 숙제 시간"이라고 정한 경우, 그 시간대의 ChatGPT를 학습 중시 상태로 두는 등의 사용법이 생각된다.

생성 AI를 금지하는 것이 아니라, AI가 학습 습관을 지원하는 도구가 되도록 환경 자체를 설계하는 접근 방식이다.

이 생각은 교육 현장에서의 생성 AI를 둘러싼 논의의 변화도 상징하고 있다.

등장 초기에는 "ChatGPT를 학교에서 금지해야 하는가"라는 논의가 두드러졌다. 그러나 생성 AI가 스마트폰이나 컴퓨터, 검색 서비스 등에 차례로 통합되는 현재, 완전히 멀리하는 것은 현실적이지 않게 되어가고 있다.

그렇다면 사용하지 않도록 가르치는 것이 아니라, "어디까지 AI에게 맡기고 어디서부터 자신이 생각해야 하는가"를 가르칠 필요가 있다.

ChatGPT for Teens는 바로 그 생각을 제품 설계에 반영한 것이라고 할 수 있다.

보호자는 대화를 감시할 수 있는가

10대 전용 서비스라고 들으면, "부모가 아이의 채팅 기록을 전부 확인할 수 있게 되는 것이 아닐까"라고 생각하는 사람도 있을지 모른다.

그러나 OpenAI의 설명에 따르면, 보호자용 기능은 아이의 대화를 상시 감시하기 위한 것이 아니다.

보호자와 10대의 계정을 연결하면, 특정 기능의 설정이나 이용 시간 등을 관리할 수 있다.

대표적인 것이 "Quiet Hours"로, 지정된 시간대에는 ChatGPT에 대한 접근을 제한할 수 있다.

늦은 밤까지 AI와의 대화를 계속하는 등의 이용을 방지하기 위해, 가정 측에서 일정한 규칙을 설정할 수 있는 것이다.

한편, 계정을 연결했다고 해서 부모가 아이의 채팅 기록이나 실시간 대화를 자유롭게 읽을 수 있는 것은 아니다.

프라이버시 자체는 일정 정도 유지하는 설계가 되어 있다.

다만, OpenAI가 매우 높은 위험성이 있다고 판단한 제한적인 경우에는, 안전에 필요한 정보를 보호자에게 통지하는 시스템이 마련되어 있다.

보호자에 의한 전면 감시와 아이의 완전한 비밀의 중간에 선을 긋고자 하는 점은 중요하다.

"정말로 10대인가"를 AI가 추정한다

또 하나 큰 논점이 되고 있는 것이 연령 판정이다.

등록 화면에서 "18세 이상"이라고 입력하는 것만으로 미성년자용 제한을 회피할 수 있다면, 안전 기능을 마련해도 의미가 희박하다.

그래서 OpenAI는 신고된 연령뿐만 아니라, 계정의 이용 상황 등 여러 정보를 통해 그 사용자가 18세 미만일 가능성을 추정하는 시스템을 도입하고 있다.

판단 자료로 제시된 것은 계정이 생성된 후의 기간, 통상 이용하는 시간대, 장기적인 이용 패턴, 본인이 신고한 연령 등이다.

연령이 명확하지 않은 경우에는, 보다 안전한 쪽의 경험을 적용하는 방침도 제시되어 있다.

다만, 이 시스템에는 당연히 오판의 가능성이 있다.

실제 연령이 18세 이상인데 Teen용 제한이 적용된 경우, 사용자는 연령 확인을 통해 일반 상태로 되돌릴 수 있다.

이 설계야말로, SNS나 기술 커뮤니티에서 논의가 일어나고 있는 포인트 중 하나이다.

SNS에서는 "안전을 위해 필요하다"는 평가의 목소리

ChatGPT for Teens의 발표를 받아, SNS나 온라인 커뮤니티에서는 다양한 의견이 나오고 있다.

Reddit의 OpenAI 관련 커뮤니티에서는, 안전 대책 자체를 평가하는 사용자도 확인할 수 있다.

특히 "젊은 사용자가 사용하는 서비스에 일정한 제한이나 건전한 이용을 촉진하는 시스템을 마련하는 것은, 중독성이 높은 서비스를 무제한으로 제공하는 것보다 낫다"는 취지의 반응이 보였다.

현재의 10대에게 생성 AI는 특별한 미래 기술이 아니다.

검색, 숙제, 어학 학습, 프로그래밍, 고민 상담 등, 일상생활의 연장에 존재하는 도구다.

"아이에게 AI를 사용하게 해서는 안 된다"고 금지하는 것만으로는, 학교 외의 장소에서 결국 사용될 가능성도 있다.

그렇다면 처음부터 안전한 환경을 마련하고, 적절한 사용법을 익히게 하는 것이 현실적이라는 생각이다.

특히 Study Mode나 숙제 리마인더에 대해서는, 그동안 보호자나 교사가 안고 있던 "AI로 숙제를 전부 끝내버리는 것이 아닐까"라는 불안에 정면으로 대응하려는 기능으로 주목할 만하다.

한편으로 "제한이 너무 많아진다"는 반발도

당연히, 모든 반응이 긍정적인 것은 아니다.

같은 Reddit의 논의에서는, "또 제한이 늘어나는가"라는 반발도 보인다.

생성 AI의 안전 대책이 강화될 때마다, 성인 사용자까지 필요 이상으로 답변이 제한될 수 있다는 경계감은 이전부터 존재한다.

ChatGPT for Teens 자체가 13~17세용이었다 하더라도, 연령 추정이 정확하지 않으면, 본래 성인인 사용자까지 Teen용 제한을 받을 가능성이 있다.

실제로, Hacker News에서는 과거의 연령 추정 기능을 둘러싼 논의에서, 30대나 40대, 50대라고 하는 사용자가 "미성년으로 판정되었다"고 보고하는 게시물이 확인되고 있다.

이러한 사례가 온라인에서 공유되고 있는 것에서, "아이의 안전"이라는 목적에는 찬성하더라도, "누구를 아이로 판정할 것인가"라는 기술 부분에 대한 불안은 남아 있다.

연령 확인과 프라이버시에 대한 우려

더욱이 논의를 불러일으키고 있는 것은 프라이버시다.

성인이 잘못 18세 미만으로 취급된 경우, 연령 확인을 통해 일반적인 이용 환경으로 되돌릴 수 있는 시스템이 있다.

그러나 "AI 서비스를 이용하기 위해 본인 확인을 어디까지 요구해야 하는가"라는 문제는 간단하지 않다.

Hacker News의 논의에서는, 연령 확인을 위한 사진이나 본인 확인 정보를 온라인 서비스에 제공하는 것 자체에 저항을 나타내는 의견이 여러 확인된다.

한편으로, 연령 확인은 기업이 적극적으로 개인 데이터를 수집하고자 하기보다는, 규제 대응이나 미성년자 보호를 위해 필요하게 되는 경우가 많다고 지적하는 게시물도 있어, 의견은 나뉘어 있다.

여기에는 어려운 트레이드오프가 있다.

연령을 확인하지 않으면, 13세 사용자가 "20세"라고 주장하는 것만으로 안전 기능을 회피할 수 있다.

한편으로 연령을 엄격히 확인하려고 하면, 본인 확인이나 프라이버시 문제가 발생한다.

미성년자를 보호하기 위한 기술이, 성인 사용자에게 어느 정도의 부담을 요구해야 하는가.

ChatGPT for Teens의 향후를 생각하는 데 있어 피할 수 없는 주제일 것이다.

"아이에게 필요한 것은 AI가 아니라 인간"이라는 목소리도

더욱 근본적인 의문도 제기되고 있다.

Reddit에서는, 젊은이에게 정말로 필요한 것은 AI와의 대화가 아니라, 인간 간의 교류가 아닐까라는 취지의 비판도 게시되고 있다.

이는 ChatGPT for Teens에 국한된 문제가 아니다.

AI가 24시간 언제든지 이야기를 들어주고, 자신의 질문에 부정적인 반응을 거의 하지 않으며