프라이빗 AI 채팅이 Google에 유출? ChatGPT "누출 소동"이 AI 시대의 프라이버시를 다시 묻다

1. 발단――Fast Company가 폭로한 "보여서는 안 되는 대화"

7월 31일(미국 시간), Fast Company가 "Google이 ChatGPT의 대화를 인덱싱하고 있다"고 특종을 보도했다. 검색 연산자 "site:chatgpt.com/share"를 실행하면, 공개 설정된 대화 URL이 줄지어 나타났다. 그 중에는 PTSD에 관한 상담 내용이나 해고 상담, 미공개 연구 아이디어까지 포함되어 있었다고 한다.Fast Company

2. “Make this chat discoverable”라는 함정

문제의 근원은 6월 하순부터 일부 사용자에게 시험적으로 구현된 공유 기능이다. 채팅을 친구에게 보낼 때, ① "공유 링크 생성" ② "검색에서 찾을 수 있도록 하기(Discoverable)"라는 두 단계 버튼이 나타나고, 후자를 켜면 Google 등의 크롤러가 순회할 수 있는 구조였다. 그러나 버튼 아래의 주의 문구는 옅은 회색 글씨였다. "오탭을 유발하는 UX"라는 UX 연구자의 비판을 받았다.Windows CentralSearch Engine Land

3. 드러난 4,500건――수보다 심각한 내용

Fast Company와 Tom’s Guide가 수행한 크롤링에서는, 공개 링크가 적어도 4,500건이었다. 그 중 약 30%에 이메일 주소나 사내 프로젝트 이름, 의료 기록 등 GDPR 위반 위험을 내포한 정보가 포함되어 있었다. Reddit의/r/privacy 스레드에서는 "채용 면접용으로 쓴 자기소개가 다 보인다", "회사의 NDA 자료를 붙인 채로 공개했다"는 자진 신고가 이어졌다.Tom's GuideReddit

4. OpenAI의 긴급 대응과 설명 책임

동일한 31일 심야, OpenAI CSO인 Dane Stuckey씨는 X에서 "단기 실험이었지만 사고적인 공유를 초래했다"며, 기능을 즉시 삭제했다고 발표했다. 또한 "검색 업체와 협력하여 기존 링크의 제외를 진행하고, 24시간 이내에 모든 사용자로부터 버튼을 제거하겠다"고 설명했다.

5. SNS의 논란――"#ChatGPTLeak" "#PrivacyFail"이 트렌드에

• X

  • "자신의 정신 건강 상담이 검색 결과에. 이것이 “AI의 미래”?"

  • "Google과 OpenAI, 또다시 “opt-in”의 이름을 빌린 “opt-out 지옥”이다"

• Reddit (r/privacy)

  • "놀랐다... 아니, 역시 또다시"

  • "공유 버튼을 이름을 바꿔라. “Publish to the world”가 정답"

• Instagram Reels에서는 짧은 동영상이 확산되고, 댓글란은 "링크는 지울 수 있어도 캐시는 남는다", "기업 비밀도 새고 있다"며 패닉 상태이다.RedditInstagram

6. 전문가의 시각――"이메일과 마찬가지로, 전송 전에 두 번 확인을"

Business Insider는 "공유 링크는 본질적으로 클라우드 공개 URL과 동일하다"고 지적했다. TechCrunch는 "Google Drive의 “Anyone with link”와 같은 구조이므로, 검색에 잡혀도 이상하지 않다"고 분석했다. 정보 보안 연구자들은 "생성 AI 이용 시야말로 “최소 공개 원칙”을 철저히 해야 한다"고 입을 모은다.Business InsiderTechCrunch

7. 법적・윤리적 영향――GDPR과 일본의 개인정보 보호법

유럽에서는 "본인이 “공개”를 명시한 이상, GDPR 위반이 아니다"라는 한편, "오인을 유도하는 UI라면 유효한 동의라고 할 수 없다"는 논의가 뜨겁다. 일본의 개인정보 보호위원회도 "고의・과실을 불문하고, 유출되면 사업자 책임을 면할 수 없다"고 코멘트하고 있다(관계자에 대한 취재). 기사 공개 시점에서 국내 기업 사용자로부터의 중대한 피해 보고는 없지만, 조사가 진행되고 있다.

8. 사용자가 지금 당장 할 수 있는 5가지 대책

1. 공유 URL의 재고 정리 – ChatGPT 왼쪽 메뉴 › Shared Links에서 목록 확인 후, 불필요한 링크 삭제.

2. 검색 캐시의 삭제 요청 – Google의 "삭제 도구"로 조기 제외 신청.

3. 역사를 정기적으로 삭제 – "데이터 설정 › Chat 기록 & 트레이닝"을 끄기.

4. 사내 정책 수립 – 공유 기능의 사용 금지 및 NDA 정보 입력 제한을 명문화.

5. AI에 “쓰게 하기” 전에 “쓰지 않기” – 비공개 전제의 정보는 처음부터 입력하지 않기.

9. 끝으로――생성 AI는 "비공개 기본값"의 재확인을

이번 소동은 AI 채팅이 이메일이나 클라우드 문서와 마찬가지로 “한번 나가면 되돌릴 수 없다”는 당연한 현실을 다시금 보여주었다. OpenAI는 신속하게 조치를 취했지만, "옵트인 설계"와 "이해하기 쉬운 UI"의 중요성을 업계 전체가 배워야 한다. 사용자 측도 "AI는 비서가 아니라 게시판일지도 모른다"는 상상력을 가지고,전송 전의 두 번 확인을 습관화하고 싶다.

Powered by Froala Editor