AI는 숙제를 돕고, 외로움도 채운다. 그 편리함의 이면에서, 아이들에게 무슨 일이 일어나는가

숙제에서 모르는 부분을 물어본다. 좋아하는 캐릭터와 대화한다. 친구에게 말하기 어려운 고민을 털어놓는다.

화면 너머의 AI는 다양한 상황에서 대답을 해준다. 어른들에게는 편리한 검색 및 업무 도구로 보일지라도, 아이들에게는 학습 상대이자 놀이 상대, 마음의 의지가 될 수 있다.

이러한 변화에 아이들의 보호는 따라잡고 있는 것일까.

BUSINESS-PANORAMA가 2026년 10월 4일자에 게재한 dts 통신 기사에 따르면, 아동 지원 단체인 SOS-Kinderdörfer weltweit와 Terre des Hommes는 공동 연구를 통해 아이들과 청소년을 둘러싼 AI의 위험성과 가능성을 지적했다. 기사는 독일의 보도 네트워크 RND에 의해 보도되었다.

양 단체의 문제의식은 AI가 이미 교육, SNS, 검색, 오락, 창작 도구에 침투하여 아이들이 AI로 인식하기 전에 접하고 있다는 점에 있다.

이는 일본의 가정이나 학교에도 통하는 질문이다.

편리함과 위험성은 같은 기능에서 비롯된다

AI의 장점과 단점은 명확히 구분되지 않을 수 있다.

예를 들어, 상대에 맞춰 설명을 바꾸는 기능은 어려운 내용을 이해하는 데 도움을 줄 수 있다. 반면, 잘못된 설명까지 이해하기 쉽게, 그럴듯하게 제시되면 그 오류를 간파하기 어려워진다.

취향을 학습하는 시스템은 흥미에 맞는 작품이나 교재와의 만남을 늘린다. 하지만 비슷한 정보만 도달하면 다른 생각에 접할 기회를 좁힐 가능성도 있다.

고민에 정성껏 응하는 대화 기능도 마찬가지다. 감정을 말로 표현하는 계기가 되는 한편, 그 상대에게서 벗어나기 어려워질 수 있다.

소개된 공동 연구가 지적하는 것은, 개인에 맞춘 대응, 창의성, 이용 용이성을 창출하는 설계가 잘못된 정보, 편견, 의존, 상업적 착취의 위험과도 연결되는 구조이다.

다만, 원 기사에는 연구의 조사 인원이나 자세한 방법은 제시되어 있지 않다. 이번 경고를 그대로 "AI를 사용하는 아이들의 몇 퍼센트가 피해를 입는다"는 수치적 결론으로 읽을 수는 없다.

"오랫동안 사용하고 있다"는 것만으로는 알 수 없는 것

아이들의 디지털 사용을 생각할 때, 가정에서 화제가 되기 쉬운 것은 사용 시간이다.

하지만 같은 30분이라도, 영어 회화 연습을 하는 시간과 자신의 가치를 AI에 반복적으로 판단을 구하는 시간은 주목해야 할 점이 다르다.

중요한 것은 무엇을 하고 있는지에 더해, 그 경험이 일상으로 어떻게 연결되고 있는가이다.

조사한 것을 가족에게 이야기하고 싶어진다. 창작의 아이디어를 얻어 스스로 작품을 만들기 시작한다. 그런 이용도 있지만, 대화를 끝내지 못하고 수면이나 숙제, 친구와의 약속이 뒤로 미뤄지는 이용도 있다.

또한, 인간다운 응답은 그 내용이 옳다는 것이나 상대가 인간과 같은 책임을 질 수 있다는 것을 의미하지 않는다. 친근함과 신뢰성을 구분해서 생각하는 시각이 필요하다.

SNS에 보이는, 보호자와 이용자 각각의 당혹감

관련된 SNS 상의 논의에서는 AI와의 거리감을 둘러싼 고민이 이미 이야기되고 있다.

여기서 소개하는 것은 이번 독일 보도에 대한 직접적인 반응이 아니라, 아이들과 AI 챗봇을 둘러싼 과거의 공개 게시물이다. 익명 게시물이기 때문에 나이와 경험의 진위를 독립적으로 확인할 수 있는 것이 아니며, 사회 전체의 경향을 나타내는 조사도 아니다.

Reddit의 육아 커뮤니티에서는 아이가 Character.AI를 사용하고 있다는 것을 알고 사이트를 차단했다는 보호자가, 아이의 첫 연애적·성적인 대화가 봇 상대가 되는 것에 대한 당혹감을 게시하고 있었다.

여기서 드러나는 것은 유해한 이미지나 말에의 접촉뿐만이 아니다. 사람과의 관계를 배우는 시기에 AI와의 관계가 어떤 위치를 차지하는가에 대한 불안이다.

한편, Character.AI의 이용자 커뮤니티에는 12~13세 무렵부터 사용하기 시작해 학교나 가정, 사람과 대화하는 중에도 이용하며 하루 2~6시간 사용하고 있다는 자기신고의 게시물이 있다. 게시자 자신이 이용에 대한 강한 의존을 호소하고 있었다.

다른 육아 관련 커뮤니티에서는 먼저 아이에게 챗봇을 사용하고 있는지 물어보는 것을 권장하고, 솔직하게 이야기하지 않는 관계 자체를 걱정하는 댓글도 보였다.

이러한 목소리에서 읽을 수 있는 것은 제한의 필요성과 상담할 수 있는 관계를 유지할 필요성이 동시에 존재한다는 것이다.

연구에서도 언급되는, 지지에서 과도한 이용으로의 변화

SNS 상의 체험담은 연구의 대상이 되기도 한다.

arXiv에 공개된 연구 "Understanding Teen Overreliance on AI Companion Chatbots Through Self-Reported Reddit Narratives"는 13~17세라고 자기신고한 이용자에 의한 318건의 Reddit 게시물을 분석하고 있다.

그 분석에서는 감정의 지지나 창작적인 놀이로 시작한 이용이 강한 애착으로 깊어지고, 수면이나 학업, 현실의 인간관계에 나쁜 영향을 미친 사례가 보고되었다.

물론, 이는 특정 커뮤니티에 게시된 자기신고의 분석이다. 일반 아이들 전체에서의 발생률이나 AI 이용과 문제와의 인과관계를 확정하는 것은 아니다.

그럼에도 불구하고, 아이 자신이 과도한 사용을 문제로 인식하고 곤란해하는 경우가 있다는 것은 간과할 수 없다. 어른이 걱정하는 한편, 본인은 신경 쓰지 않는다는 단순한 구도가 아니다.

일본의 학교에서는, "사용할 수 있는가"에서 "확인할 수 있는가"로

일본에서도 AI와의 교류 방법을 배우기 위한 토대가 제시되고 있다.

문부과학성이 2024년 12월에 공표한 학교용 가이드라인 Ver.2.0은 인간 중심의 이용을 기본으로 하며, AI의 출력을 참고의 하나로 보고, 최종적으로는 인간이 판단하는 것을 중시하고 있다.

아동·학생의 이용에서는 발달 단계나 이용 약관, 개인정보에 대한 배려, 교사의 지도 감독 등이 요구된다. AI를 사용하는 것 자체를 교육의 목적으로 하지 않는다는 생각도 제시되어 있다.

이 관점을 수업에 반영한다면, 답을 빨리 내게 하는 것으로 끝내지 않는 방법이 고려될 수 있다.

예를 들어, AI의 설명을 교과서와 대조한다. 제시된 근거가 실재하는지 조사한다. 여러 설명의 차이를 찾아 어떤 것을 채택했는지 자신의 말로 설명한다.

이러한 학습을 통해 기르고자 하는 것은 AI의 조작에 익숙해지는 것에 더해, 출력을 검토하고 스스로 판단하는 힘이다.

가정에서는, 이용 시간과 "상담 내용"을 모두 본다

가정에서의 대화도 사용 시간 확인에서 한 걸음 더 나아갈 수 있다.

"몇 시간 사용했니?"에 더해, "어떤 점이 편리했니?", "이상한 답은 나오지 않았니?", "곤란할 때, 다른 누구에게 상담할 수 있을 것 같니?"라고 물어본다.

여기서 중요한 것은 아이가 AI에 무엇을 원하는지를 아는 것이다. 공부의 보조인지, 지루함을 달래기 위한 것인지, 안심하고 이야기할 수 있는 장소인지에 따라 필요한 대응은 달라진다.

가정의 규칙으로는 다음과 같은 항목이 고려될 수 있다.

• 이용 가능한 연령이나 조건을 확인하고, 나이를 속여 등록하지 않는다.
• 자신이나 친구의 이름, 얼굴 사진, 학교명 등을 쉽게 입력하지 않는다.
• 답변을 그대로 믿지 않고, 중요한 것은 다른 정보나 신뢰할 수 있는 어른에게 확인한다.
• 수면이나 식사, 학교 생활에 영향이 없는지 함께 돌아본다.
• 싫은 답변이나 무서운 내용에 직면했을 때는 이용을 멈추고 상담할 수 있도록 한다.

모든 대화를 보여달라고 강요하는 것이 솔직한 상담으로 이어진다고는 할 수 없다. 나이와 상황에 따라 무엇을 지켜보고, 어디를 본인의 프라이버시로 존중할 것인지 논의할 필요가 있다.

안전을 가정만의 책임으로 하지 않는다

한편, 대책을 보호자나 교사의 노력에만 맡기는 데도 한계가 있다.

원 기사에 따르면, Terre des Hommes의 요슈아 호펠트 씨는 개발 단계에서부터 아이들의 보호를 포함하는 "Safety by Design", 실효성 있는 연령 확인, AI를 둘러싼 규칙 만들기에 아이들의 참여를 요구하고 있다.

이는 문제 발생 후 주의 문구를 늘리는 것뿐만 아니라, 서비스의 설계 자체를 재검토하는 생각이다.

그 생각을 구체화한다면, 아이들에게 적합한 초기 설정, 이해하기 쉬운 신고 수단, 개인정보 수집을 억제하는 시스템, 과도한 이용을 유도하지 않는 설계 등이 검토 과제가 된다.

연령 확인에 대해서도 보호를 위해 필요 이상의 개인정보를 수집하면 다른 문제가 발생할 수 있다. 안전성과 프라이버시를 동시에 고려할 필요가 있다.

더 나아가, 아이들 자신의 참여에도 의미가 있다. 어른에게는 단순한 오락으로 보이는 기능이 본인에게는 중요한 지지일 수 있다. 반대로, 어른이 교육적이라고 생각하는 시스템을 아이들은 사용하기 어렵거나 무섭다고 느낄 가능성도 있다.

AI를 사용한 후, 아이들의 세계는 넓어지고 있는가

AI는 이해를 돕고, 창작의 계기를 만들며, 정보에 접근하는 벽을 낮출 가능성을 가진다.

그 가능성을 살리기 위해서라도, 편리함의 평가에 아이들의 생활을 포함하고 싶다.

사용한 후에 스스로 생각할 여지가 늘어나고 있는가. 누군가와 이야기할 계기가 생기고 있는가. 안심하고 화면을 닫고 다른 것에 집중할 수 있는가.

이번 경고가 일본에 던지는 것은 AI를 가정이나 학교에 도입하는 속도와 같은 만큼, 아이들을 지원하는 시스템에도 눈을 돌리고 있는가라는 질문이다.

아이들이 AI에 대해 곤란할 때, 화면 밖에 상담할 수 있는 사람이 있다. 그 관계를 유지하면서 안전하게 사용할 수 있는 서비스와 학습 기회를 마련하는 것이 요구된다.

출처 URL

1. BUSINESS-PANORAMA／dts 통신：
   SOS-Kinderdörfer weltweit와 Terre des Hommes의 공동 연구 및 양 단체의 발언. 연구 원문의 조사 방법·대상 인원은 미확인.
   https://business-panorama.de/news.php?newsid=6713511

2. 문부과학성：학교용 생성 AI 가이드라인 Ver.2.0의 개요 자료.
   인간 중심의 이용, 발달 단계에 대한 배려, 개인정보 보호, 교사의 지도 감독 등 일본의 교육 현장에 관한 설명의 출처. mext.go.jp
   https://www.mext.go.jp/content/20241226-mxt_shuukyo02-000030823_003.pdf

3. Reddit・r/Parenting："AI Chatbots".
   아이들과 챗봇의 연애적·성적인 대화를 걱정하는 보호자의 공개 게시물. 검색 표시 범위를 요약한 것. reddit.com
   https://www.reddit.com/r/Parenting/comments/1hmw0ar/

4. Reddit・r/CharacterAI："Minors Get Addicted".
   어린 시절부터의 이용과 장시간 이용, 그만두기