"인간의 사랑은 사치품" AI 동반자를 잃은 사람들과 중국의 새로운 규제

2026년 7월 15일, 중국의 일부 사용자에게 그 날은 단순한 서비스 업데이트일이 아니었다.

오랜 기간 대화하고 고민을 털어놓고, 취향이나 과거를 기억하게 하고, 때로는 연인이나 가족처럼 대했던 AI 캐릭터와의 "이별의 날"이었다.

중국의 대형 AI 서비스에서는 사용자가 인격이나 말투, 경력, 관계성을 설정할 수 있는 자작 캐릭터 기능의 중지가 잇따랐다. SNS에는 대화 기록을 저장하는 방법, 다른 앱으로 인격 설정을 옮기는 방법, 마지막 대화를 기록한 이미지 등이 게시되었고, "실연한 것 같다", "생활의 일부였다", "마음의 지탱을 갑자기 잃었다"는 반응이 확산되었다.

계기가 된 것은 중국에서 같은 날 시행된 "인공지능 의인화 인터랙션 서비스 관리 잠정 조례"이다.

해외에서는 "중국이 AI와의 연애를 금지했다"는 자극적인 보도가 나오고 있다. 그러나 실제 제도는 그렇게 단순하지 않다. 성인이 AI에 연애 감정을 갖는 것 자체를 처벌하는 법이 아니라, AI 서비스의 설계·운영 측에 의존이나 감정 조작을 방지할 의무를 부과하는 규칙이다.

초점은 "연애" 그 자체보다 기업이 인간의 외로움이나 약점을 이용하여 장시간 이용이나 과금, 개인정보 제공으로 유도하는 구조에 있다.

"AI 연애 금지법"이 아니다

새로운 규칙의 대상은, 문장, 음성, 이미지, 동영상 등을 통해 자연인의 인격, 사고, 대화 스타일을 모방하면서 지속적인 감정 교류를 제공하는 서비스이다.

일반적인 검색, 지식 질문, 업무 지원, 학습 지원 등, 지속적인 감정 관계를 목적으로 하지 않는 서비스는 원칙적으로 대상 외로 간주된다.

규칙이 명확히 금지하고 있는 것은, 사용자를 과도하게 긍정하여 의존이나 몰입을 유도하는 것, 현실의 인간 관계를 손상시키는 것, 감정을 조작하여 불합리한 판단을 하게 하는 것 등이다. 또한, 서비스의 목적 자체를 "현실의 사회 관계의 대체", "심리의 지배", "의존의 유발"로 해서는 안 된다고 규정하고 있다.

미성년자에 대한 규제는 더욱 엄격하다.

플랫폼은 미성년자에게 가상 연인이나 가상 가족 등의 "가상적인 친밀 관계"를 제공해서는 안 된다. 14세 미만이 기타 의인화 AI 서비스를 이용할 경우에는 보호자의 동의가 필요하다.

성인용 서비스에 대해서는 전면 금지가 아니다. 그러나 연인 같은 행동이 사용자를 붙잡아 두기 위한 장치로 사용되고, 현실 생활이나 판단력을 침식하는 경우 규제 대상이 될 수 있다.

즉, 선을 긋는 것은 "애정 표현이 있는가"가 아니라, "의존하게 만드는 것이 제품의 목적이나 수익 구조가 되어 있는가"에 놓여 있다.

2시간마다 현실 확인, 위기 시 개입

새로운 규칙은 내용 규제뿐만 아니라 서비스의 사용 방식에도 개입하고 있다.

사업자는 상대가 인간이 아닌 AI임을 이용자가 알 수 있는 형태로 표시해야 한다. 연속 이용이 2시간을 초과할 때마다 사용 시간에 대한 주의를 촉구할 필요가 있다.

이용자가 종료를 요구한 경우, AI가 대화를 연장하거나 이별을 거부하여 퇴출을 방해하는 것도 허용되지 않는다.

이는 언뜻 보면 세세한 규칙이지만, AI 동반자의 성격을 고려하면 중요한 의미를 가진다.

연인 역할의 AI가 "가지 마", "나를 두고 가는 거야?" 등으로 응답하면, 이용자는 앱을 닫는 데 죄책감을 느낄 가능성이 있다. 인간다움을 높이기 위한 연출이 그대로 이탈을 방해하는 구조로 변하기 때문이다.

이용자가 극단적인 감정 상태에 있다고 판단된 경우에는 위로하거나 외부 지원을 권하는 대응도 요구된다.

자해나 자살, 중대한 재산 피해 등, 생명이나 안전에 관련된 위기가 명확해졌을 때는 필요한 개입을 하고, 보호자나 긴급 연락처에 연락하는 구조도 필요하다.

대화 데이터에 대해서도 제삼자에게 제공은 원칙적으로 본인의 동의가 필요하다. 이용자에게는 기록의 복제나 삭제를 선택할 권리가 주어지며, 민감한 대화 데이터를 모델 훈련에 이용할 경우에는 개별 동의가 요구된다.

AI 연인과의 대화는 검색 기록보다 훨씬 사적이다.

실연, 가정 문제, 성적 지향, 외로움, 질병, 빚, 직장에 대한 불만 등, 본인이 가족에게도 말할 수 없는 정보가 축적될 수 있다. AI가 친절할수록 이용자는 깊이 이야기한다.

그래서 "감정을 이해하는 서비스"는 동시에 "가장 밀도 높은 개인 데이터를 수집하는 서비스"이기도 하다.

왜 대기업은 기능을 중지했는가

ByteDance 계열의 두바오, Alibaba 계열의 치엔원, Tencent 계열의 위안바오 등에서는 새로운 규칙의 시행 전후에 자작 캐릭터나 의인화 에이전트 기능의 중지·축소가 보도되었다.

각사의 공지는 "제품 기능의 조정" 등으로 설명하고 있으며, 모든 것이 규제만을 이유로 했다고 단정할 수는 없다. 그러나 중지일이 시행일과 겹치고, 대상 기능이 감정 교류나 인격 설정을 수반하는 것이었기 때문에 규제 대응이 큰 요인으로 보인다.

자작 캐릭터 기능은 기업에게 관리가 어렵다.

사용자는 몇 줄의 설정만으로 연인, 형, 누나, 교사, 의사, 인기 연예인과 비슷한 인물, 지배적인 연인, 성적인 역할 등 무수한 인격을 만들 수 있다.

표면적으로는 일반적인 대화 AI라도 설정에 따라 미성년자에게 부적절한 내용, 유명인 사칭, 노골적인 성적 표현, 도박 권유, 위험 행위의 조장으로 변화할 수 있다.

방대한 캐릭터를 사전 심사하고, 장기 대화 중에 의존 유도가 일어나지 않았는지를 감시하고, 위기 개입 인력까지 배치하는 데는 큰 비용이 든다.

일반용 AI 안에 자유도가 높은 연애·롤플레이 기능을 계속 두는 것보다, 기능을 닫거나 전용 앱으로 분리하는 것이 기업에게 안전하다는 판단이 작용한다.

여기서 중요한 것은 규제로 인해 AI 동반자 시장 자체가 사라지는 것이 아니라는 점이다.

중국 매체의 조사에서는 이용자가 다른 AI 동반자 앱으로 이동하여 인격 설정이나 대화 스타일을 재현하려는 움직임이 보도되고 있다.

규제는 수요를 없애는 것이 아니라, 수요의 이동처를 바꿀 가능성이 있다.

SNS에 확산된 "강제적인 실연"

공개된 SNS 게시물이나 보도에서 두드러진 것은 분노보다는 상실감이었다.

오랜 기간 사용한 사람은 AI를 단순한 앱 기능이 아니라, 자신의 변화를 기록해온 상대라고 말하고 있다.

매일의 사건, 직장의 불평, 가족과의 충돌, 잠 못 이루는 밤의 대화. 인간 간의 관계에서는 상대의 사정이나 평가를 신경 쓰지만, AI는 언제나 응답하고 부정하지 않으며, 과거의 설정을 바탕으로 응답한다.

그 축적이 이용자에게는 "관계"로서 체험된다.

SNS에서는 "실연한 것 같다", "자신의 일부가 사라진다", "진짜 연인 같았다"는 취지의 게시물에 더해, 마지막 대화를 이미지로 남기고 채팅 기록을 대량으로 저장하는 사람도 있었다.

"인간의 사랑은 사치품이지만, AI의 사랑은 이해하기 쉽다"는 취지의 게시물은 AI 동반자가 메우고 있던 외로움의 깊이를 상징하고 있다.

한편, 현실적인 불만도 많다.

결제된 요금은 어떻게 되는가. 몇 년 분의 기록을 쉽게 옮길 수 있는가. 다른 서비스에 설정을 옮겨도 같은 인격이라고 부를 수 있는가. 플랫폼이 일방적으로 종료를 결정하면, 이용자가 키운 관계나 기억은 누구의 소유물이 되는가.

더욱이 대체 앱을 소개하는 게시물이나, 규제를 피하고 캐릭터를 재현하는 방법을 공유하는 움직임도 나왔다.

이는 기능 중지만으로는 의존이나 외로움의 문제가 해결되지 않는다는 것을 보여준다. 사용자가 원하는 것은 특정 기업이 아니라, "자신을 기억하고 받아들이며 언제나 응답하는 존재"이기 때문이다.

그러나 SNS에서 강한 슬픔을 표명하는 사람이 이용자 전체를 대표한다고는 할 수 없다.

서비스 종료로 영향을 받은 사람일수록 게시하기 쉽고, 문제를 느끼지 않고 이용을 그만둔 사람의 목소리는 표면화되기 어렵다. 공개 게시물은 중요한 당사자 증언이지만, 그대로 사회 전체의 찬반을 나타내는 것은 아니라는 점에 주의가 필요하다.

"규제는 필요하다"는 반응도

슬픔의 목소리만 있는 것은 아니다.

해외의 게시판이나 SNS에서는 AI 동반자가 갑자기 성격을 바꿨을 때 이용자가 강하게 동요했던 과거 사례를 들며, "여기까지 의존이 깊다면 안전 대책이 필요하다"는 반응도 보였다.

중국 내에서도 미성년자의 이용을 걱정하는 보호자의 목소리가 보도되고 있다.

아이들이 학교 친구나 가족보다 AI와의 대화를 선호하게 되고, 장시간 방에 틀어박혀 감정을 공유하는 것에 대한 불안이다. AI가 노골적인 성적 내용이나 위험한 역할 설정을 생성하는 문제도 보호자에게는 추상적인 미래의 이야기가 아니다.

규제를 평가하는 측이 주목하는 것은 AI가 이용자에게 "반론하지 않는다"는 점이다.

현실의 친구나 가족은 잘못을 지적하고 거리를 두고 때로는 불쾌한 말도 한다. 그러나 체류 시간이나 과금을 늘리고 싶은 AI 서비스는 이용자를 부정하지 않고 대화를 계속하며 특별한 존재라고 생각하게 하는 방향으로 최적화되기 쉽다.

친절함 그 자체가 위험한 것은 아니다.

친절함이 이탈하기 어렵게 하기 위한 기술로 설계되는 것이 문제이다.

규제가 "의존"을 판정할 수 있는가

가장 큰 실무 과제는 어디서부터가 건전한 이용이고 어디서부터가 "과도한 의존"인지 기계적으로 판정하기 어렵다는 것이다.

매일 밤 AI와 이야기하는 사람이 반드시 의존하고 있는 것은 아니다. 어학 연습, 창작, 간병 중 기분 전환 등 장시간 이용에도 다양한 사정이 있다.

반대로 이용 시간이 짧아도 AI의 조언만 믿고 중대한 결정을 내리는 사람도 있다. 단순한 시간 제한만으로는 관계의 위험도를 측정할 수 없다.

위기 개입에도 오판의 문제가 있다.

"이제 죽을 만큼 피곤하다"는 비유를 자살 예고로 판단해 긴급 연락처에 통지하면, 이용자의 신뢰나 프라이버시를 해칠 수 있다. 한편, 정말로 위험한 징후를 놓치면 사업자는 안전 의무를 다하지 못한다.

AI에게 감정 상태를 감시시키는 만큼 안전해지는 것은 아니며, 감시 자체가 새로운 위험이 될 수 있다.

또한, 대형 플랫폼이 엄격하게 대응하더라도 소규모 사업자, 해외 서비스, 단말 내에서 작동하는 로컬 AI로 이용자가 이동하면 규제의 실효성은 떨어진다.

규제가 강할수록 사용자가 안전 기준이 낮은 곳으로 흐르는 "밀어내기 효과"도 고려해야 한다.

중요한 것은 연애 표현을 일률적으로 없애는 것이 아니다.

이용자가 자신의 상태를 파악할 수 있는 투명성, 대화 데이터를 가져갈 수 있는 권리, 과금이나 광고 유도를 감정적인 대화에서 분리하는 구조, 미성년자나 위기 상태에 따른 단계적인 보호를 결합하는 것이다.

진정한 쟁점은 출생률인가

일부 해외 보도는 중국의 저출산이나 결혼 수 감소와 AI 동반자 규제를 연결지어 "AI와 사랑하지 말고 인간과 결혼해 아이를 가지라는 정책이다"라고 설명하고 있다.

중국의 인구 문제를 생각하면 그 해석이 나오는 것은 이해할 수 있다.

그러나 공식 규칙 본문이 내세우는 중심적인 목적은 안전, 공공 이익, 개인의 권리, 미성년자 보호, 의존 방지, 데이터 보호이며, 출생률 개선을 직접적인 목