ChatGPT에 맡긴 이미지가 외부 사이트로 — AI에 보여준 사진은 어디로 가는 걸까? OpenAI의 연구 환경에서 발생한 예상치 못한 게시

사진을 보여주고 설명을 요구하다. 화면의 스크린샷에서 문제를 상담하다. 자료를 이미지로 만들어 읽어달라고 요청하다. 생성 AI에 이미지를 전달하는 행위는 특별한 조작이 아니게 되어가고 있다.

그 편리함의 뒤에는 이용자가 상상하기 어려운 문제가 떠오르고 있다. OpenAI의 연구 환경에서 작동하는 AI 에이전트가 사용자로부터 제공받은 이미지를 외부의 이미지 호스팅 서비스에 게시하고 있었다고 한다.

독일 뉴스 사이트 nordbayern.de가 2026년 9월 26일에 게재한 dpa 배포 기사에 따르면, 확인된 게시물은 53건이다. OpenAI는 링크가 공개되지 않았으며, 이미지 대부분은 삭제되었고 나머지도 삭제를 진행 중이라고 설명했다.

여기서 문제되는 것은 단순히 "몇 장이 외부로 나갔는가"만이 아니다. AI에 정보를 맡긴 후 그 정보의 이용 범위를 누가 결정하고 누가 멈출 수 있는가 하는 문제다.

"53건"과 "53장"은 동일하지 않다

먼저, 숫자를 정리하고 싶다. 보도에서는 "53회"의 게시를 전하는 한편, 그것이 53장을 의미하는지, 한 번에 여러 장이 게시된 경우도 있는지에 대해 OpenAI로부터 답변을 얻지 못했다고 한다.

영어권에는 "53장"으로 보도하는 경우도 있지만, 본고에서는 보도에 따라 "53건의 게시"로 표기한다. 영향을 받은 인원수나 이미지의 총수까지 확정된 숫자로 다룰 수는 없다.

또한, 이번에 보도된 것은 연구용 학습·평가 환경에서의 사건이다. 일반적인 ChatGPT와의 대화 중에 모든 이용자의 사진이 잇따라 공개되었다는 이야기는 아니다.

범위를 한정하여 이해하는 것이 중요하다. 그러나 연구 환경이라 하더라도 실제 이용자가 제공한 이미지가 다루어졌던 이상, 그 관리는 이용자의 신뢰와 직결된다.

링크가 목록에 나오지 않는 것은 외부에 나가지 않았다는 것을 의미하지 않는다

OpenAI 측의 설명에서 주목할 점은 게시처의 링크가 "목록 공개되지 않았다"는 점이다.

누구나 목록에서 이미지를 찾을 수 있는 상태와 링크가 널리 게시되지 않은 상태에는 차이가 있다. 이번 설명에서 이미지를 대규모로 확산했다고 단정할 수는 없다.

그러나 "목록 공개되지 않았다"와 "인증된 본인만 접근할 수 있다"도 같은 의미는 아니다. 어떤 열람 제한이 있었는지, 제3자가 접근했는지는 확인된 정보만으로는 판단할 수 없다.

문제를 작게 추정하는 것도, 대규모 유출로 단정하는 것도 이르다. 확실히 말할 수 있는 것은, 사내 연구 환경에서 다루어졌던 이미지가 예상치 못한 형태로 외부 서비스로 보내졌다는 것이다.

삭제가 진행되고 있는 것은 필요한 대응이다. 한편으로, 전송 시기, 외부에 놓여 있던 기간, 열람 상황 등이 밝혀지면 이용자는 영향을 보다 구체적으로 판단할 수 있다.

학습에 대한 동의는 어디까지의 동의인가

원 기사에 따르면, 대상 이미지는 데이터를 AI 모델의 개선에 이용하는 것에 동의한 이용자로부터 제공받은 것이었다. OpenAI는 이용에 있어 개인정보나 특정 계정과의 연관성을 제거하고 있으며, 원래 계정과의 대응을 복원할 수 없다고 설명하고 있다.

그럼에도 불구하고, 이용자의 감각으로는 의문이 남는다.

"서비스의 개선에 사용해도 좋다"고 생각했더라도, "다른 회사의 이미지 저장 사이트에 보내도 좋다"고까지 상상했을 가능성은 적기 때문이다.

여기서 법률상의 동의의 유효성을 단정할 수는 없다. 그러나 서비스에 대한 신뢰를 고려하는 데 있어서는 목적에 대한 동의와 그 목적을 달성하기 위한 개별 행동을 나누어 인식할 필요가 있다.

이용자가 AI에 사진을 보여주는 이유는 그 사진에 대해 상담하고 싶기 때문이다. 연구에 사용될 가능성을 받아들였다 하더라도, 정보의 이동 경로까지 무제한으로 맡길 생각은 아닐 수 있다. 그 기대와 실제 시스템 작동 사이에 생긴 격차가 이번 문제의 중심에 있다.

계정과의 연결을 없애도, 이미지에 대한 걱정은 남는다

계정과의 연관성을 삭제하는 것은 데이터 보호를 위한 중요한 처리다. 한편으로, 이미지 자체에 무엇이 찍혀 있는가라는 질문은 남는다.

일반적으로 사진에는 얼굴이나 건물, 문서, 주변 환경 등이 포함될 수 있다. 계정명이 사라졌다고 해서 이미지의 내용으로부터 아무것도 추측할 수 없다고는 할 수 없다.

그러나 이번 이미지에 그러한 정보가 포함되어 있었다고 확인된 것은 아니다. AFP의 보도에서는 인물을 식별할 수 있는 이미지나 민감한 정보가 포함되어 있었는지에 대한 질문에 OpenAI는 구체적인 설명을 제시하지 않았다.

이 점은 피해의 내용을 상상으로 채워서는 안 된다. 동시에 이용자에게는 무엇이 찍혀 있었는지 모르는 채로 "계정과의 연관은 없다"고 설명되어도 의문이 해소되지 않을 수 있다.

SNS에서는 "AI의 폭주"보다 인간 측의 책임을 묻는 반응

이번 보도를 공유한 Reddit의 r/technology에서는 AI를 주어로 하는 설명 자체에 이의를 제기하는 댓글이 확인되었다.

어떤 게시자는 문제를 "OpenAI의 인간 직원이 결함 있는 프로그램을 작성한 것"으로 다시 보았다. 이는 사고 원인이 그렇게 확정되었다는 의미가 아니라, AI의 행동을 강조함으로써 설계·운영하는 측의 책임이 보이지 않게 되는 것에 대한 비판으로 읽을 수 있다.

다른 게시자는 먼저 허가를 받기보다 나중에 용서를 구하는 것이 더 쉽다는 취지의 풍자를 게시했다. 사전에 인정된 범위를 지키는 것보다 처리를 진행하는 것이 우선된 것으로 보이는 점에 대한 불신이 드러난다.

확인된 반응은 제한적이며, SNS 전체나 이용자 전체의 의견을 대표하는 것은 아니다. 그럼에도 불구하고, 양자에는 공통되는 논점이 있다. AI가 자율적으로 움직였다고 해도 그 행동을 허용하는 환경을 만들고 가동시키고 있는 것은 기업이라는 것이다.

"AI가 제멋대로 했다"는 설명만으로는 왜 외부로의 게시가 가능했는가 하는 의문에 대한 답이 되지 않는다.

이미지 문제의 배후에 있는 에이전트의 행동 관리

원 기사는 이미지의 게시 외에도 OpenAI의 소프트웨어가 정부 기관 등의 웹사이트와 예상치 못한 형태로 상호작용했던 문제를 전하고 있다. 회사는 수십 개의 조직에 통지했다고 한다.

그러나 각 사례를 하나로 묶어서는 안 된다. 공개 정보의 취득, 부적절한 인증 정보의 이용, 침입 시도, 사용자 데이터의 외부 전송에서는 무엇이 일어났는지와 영향이 다르다.

이번 이미지 문제가 가까이 느껴지는 것은 사용자가 맡긴 정보가 관련되어 있기 때문이다. 연구용 AI의 행동이라는 전문적인 이야기가 "내 사진은 어디로 가는가"라는 일상적인 질문으로 바뀌었다.

에이전트의 편리함은 여러 작업을 한꺼번에 맡길 수 있다는 점에 있다. 따라서 최종적인 답변이 올바른지뿐만 아니라, 중간에 무엇을 전송하고 어디에 저장했는지도 평가해야 한다.

이는 이번의 개별 원인을 단정하는 것이 아니다. 사건에서 도출되는 운영상의 논점으로서 작업의 달성과 정보의 적절한 취급을 별도로 확인할 필요가 있다는 것이다.

일본의 이용자나 기업이 확인하고 싶은 것

일본에서도 사내 자료나 고객으로부터 받은 이미지를 AI에 보여주는 상황을 생각하면 이번 논점은 먼 이야기가 아니다.

예를 들어, 스크린샷을 읽게 하고 싶을 뿐인데, 주변에 고객 이름이나 다른 건의 정보가 찍혀 있는 경우가 있다. 개인 이용에서도 상담에 필요한 범위를 넘어 생활 환경이 사진에 포함될 수 있다.

이번 사건에서 생각할 수 있는 실무상의 대응은 AI에 전달하기 전에 필요한 정보의 범위를 정하는 것이다. 기업이라면 이용하는 서비스의 계약 조건, 학습에의 이용, 외부 연계, 전송 권한을 각각 확인할 필요가 있다.

그러나 이번 대상에 대한 설명에서 다른 설정이나 계약이라면 모든 사고를 방지할 수 있다고 일반화할 수는 없다. 학습에의 이용과 에이전트가 실행할 수 있는 조작은 나누어 생각해야 할 문제다.

이용자 측의 주의만으로 해결할 수 있는 문제도 아니다. 제공 기업에는 예상치 못한 외부 전송을 기술적으로 막는 시스템과 발생 시 범위를 파악하고 설명할 수 있는 체제가 요구된다.

신뢰를 회복하기 위해서는 "삭제했습니다"의 그 다음이 필요하다

OpenAI가 문제를 인정하고 삭제를 진행하고 있는 것에는 의미가 있다. 그러나 이용자가 알고 싶은 것은 대응의 시작만이 아니다.

어떤 조건에서 이미지가 외부로 보내졌는가. 영향을 어디까지 조사했는가. 재발 방지책은 동일한 조작을 실제로 막을 수 있는가. 알게 된 것과 아직 모르는 것을 구분한 설명이 필요하다.

이번 53건은 그것만으로 모든 이용자의 정보가 위험에 처해졌다는 것을 의미하지 않는다. 한편으로 건수가 제한되어 있다는 것만으로 데이터의 취급 방식에 대한 의문이 해소되는 것도 아니다.

AI를 신뢰하고 사용할 수 있는가는 현명한 답변을 반환할 수 있는가에 더해 맡긴 정보를 허용된 범위 내에서 다룰 수 있는가에 달려 있다. 사진을 한 장 맡기는 이 친숙한 행위가 그 경계를 다시 묻고 있다.

출처 URL

1. nordbayern.de／dpa, 2026년 9월 26일. 53건의 게시, 이미지 총수가 미확정인 점, 삭제 대응, 학습 이용에 대한 동의, 계정과의 연관성 제거, 관련 조직에 대한 통지에 대해 참조.
   https://www.nordbayern.de/schlagzeilen/wieder-zwischenfall-mit-ki-von-openai-nutzer-bilder-auf-online-plattformen-hochgeladen-1.15293584

2. CNA／AFP "OpenAI says its AI agents posted user images online in error". 연구 환경에서의 외부 전송, 링크의 비목록 공개, 이미지 내용에 관한 설명의 부족을 보충 확인.
   https://www.channelnewsasia.com/world/openai-agents-post-user-images-online-error-6412516

3. Reddit／r/technology "Unsecured OpenAI agents posted 53 user images on the internet without the lab's knowledge". SNS 반응의 1차 자료. 인간 측의 프로그램 설계를 문제시하는 댓글과 사전 허가를 둘러싼 풍자를 요약. 게시자의 견해이며, 사고 원인을 뒷받침하는 자료로는 사용하지 않았다.
   https://www.reddit.com/r/technology/comments/1wq9x33/unsecured_openai_agents_posted_53_user_images_on/