AI 업계에 파문! Anthropic CEO가 말하는 인공지능의 어두운 면

"안전한 AI"를 목표로 하는 회사는 왜 적을 늘렸는가

"AI는 위험해질 수 있다. 그래서 신중하게 개발해야 한다"

이 말만으로는 동의하는 사람이 적지 않을 것이다. 하지만 그것을 발언하는 사람이 세계 유수의 고성능 AI를 개발하고 급성장하는 기업의 수장이라면 어떨까.

책임 있는 경고로 받아들이는 사람이 있는 한편, "경쟁 상대의 성장을 막고 싶어하는 것이 아닐까"라고 의심하는 사람도 생겨난다.

생성 AI "Claude"를 다루는 Anthropic과 다리오 아모데이 CEO를 둘러싼 대립에는 그런 어려움이 있다.

미국 뉴욕 타임스가 2026년 11월 13일에 공개한 기사에서는 아모데이 씨의 경고가 동업자들의 초조함에서 강한 반발로 변해가는 모습을 전했다. 배경에는 AI의 안전성에 관한 의견 차이뿐만 아니라 기술 경쟁, 고객과의 관계, 그리고 거대한 시장의 주도권이 얽혀 있다.

일본의 이용자에게도 이는 먼 나라의 경영자들 간의 싸움이 아니다. 업무에 사용하는 AI의 가격이나 선택지, 서비스를 계속 사용할 수 있는 조건에 관련된 문제다.

공개를 지지하는 서한에 Anthropic은 참여하지 않았다

NYT의 공개 부분에 따르면, 대립이 표면화된 장면 중 하나는 AI 모델의 공개를 둘러싼 정책 논쟁이었다.

동지는 Anthropic과 OpenAI가 일부 AI 모델은 위험성이 너무 높다고 하여 그 개발이나 광범위한 공유를 저지하도록 백악관에 로비를 했다고 보도하고 있다.

한편, Microsoft의 사티아 나델라 씨와 당시 NVIDIA의 CEO였던 젠슨 황 씨는 모델의 공개를 지지하는 서한 준비를 진행했다고 한다. 많은 기업이 동의하고 OpenAI도 서명에 참여했지만, 아모데이 씨는 참여하지 않았다.

여기서 주목해야 할 것은 보도가 그리는 정책에 대한 로비와 Anthropic 자신이 설명하는 입장을 구분하는 것이다.

동사는 7월 27일의 공식 성명에서 오픈 웨이트 모델의 금지를 제안한 적이 없다고 명확히 했다. 위험한 능력을 가지지 않은 공개 모델에는 기업이나 개발자, 연구자에게 이익을 가져다주는 가치가 있다고도 인정하고 있다.

그 위에 요구하고 있는 것이 충분히 고성능인 모델에 대한 안전성 시험이다. 대상은 공개형뿐만 아니라 비공개형도 포함된다.

따라서 이 논쟁을 "공개에 찬성하는 기업 대 전면 금지를 요구하는 Anthropic"으로 정리하면 실제 쟁점을 놓치게 된다.

"오픈 웨이트"란 무엇을 여는 것인가

오픈 웨이트란 학습된 AI의 행동을 결정하는 수치군인 "가중치"를 공개하는 방식을 가리킨다. 이용자는 모델을 입수하여 조건에 따라 자신의 환경에서 작동시키거나 조정할 수 있다.

다만, 가중치가 공개되어 있어도 학습 데이터나 개발 과정의 모든 것이 공개되어 있는 것은 아니다. "오픈"이라는 말만으로 무엇이든 자유롭게 사용할 수 있고 내부도 완전히 알 수 있다고 생각하는 것은 성급하다.

공개를 지지하는 기업의 서한은 이용자가 한 회사에 의존하지 않고 자신의 용도에 맞춰 AI를 운영할 수 있는 것을 중시하고 있다.

예를 들어, 일본어의 사내 문서를 다루는 시스템을 생각해보자.

외부의 AI 서비스를 이용하면 도입이나 운영의 부담을 줄이기 쉽다. 한편, 자신들의 환경에서 모델을 작동시킬 수 있으면 데이터의 위치나 갱신 시기를 관리하기 쉬워진다. 다만, 그만큼 설비나 유지의 부담을 떠안게 된다.

어느 쪽이 항상 우수하다는 이야기는 아니다. 이용자가 용도나 예산에 따라 선택할 수 있는 것에 공개 모델의 의미가 있다.

같은 "안전"을 말하면서도 보는 위험이 다르다

흥미로운 것은 공개를 지지하는 측도 안전성을 경시한다고 선언하고 있는 것은 아니라는 점이다.

기업 연합의 서한은 공개 모델이 널리 검증됨으로써 문제점을 발견하기 쉬워지고 방어에 나서는 사람들에게도 강력한 도구가 전달된다고 주장한다. 소수의 비공개 모델에 능력을 집중시키는 것 자체가 약점이 될 수 있다는 생각이다.

반면 Anthropic은 공개 후의 가중치를 회수하는 어려움이나 이용 상황을 감시하여 악용을 막는 어려움을 문제로 삼고 있다.

양측이 중시하는 위험을 나열하면 불일치가 쉽게 보인다.

공개를 중시하는 측은 기술이 소수 기업에 집중되어 외부에서 검증할 수 없게 되는 위험을 본다. 신중한 공개를 요구하는 측은 강력한 능력이 한 번 퍼지면 개발원에서도 제어하기 어려워지는 위험을 본다.

즉, 지키고 싶은 것이 완전히 반대인 것은 아니다. 안전을 실현하는 방법과 어떤 위험을 우선할지가 다르다.

안전에 대한 경고가 비즈니스상의 의구심을 초래하는 이유

NYT는 Anthropic에 대한 반발을 안전성에 관한 발언만으로 설명하지 않는다.

동지의 공개 부분은 동사가 급성장하는 한편 일부 고객이나 경쟁에 대한 서비스 제공을 중단하고 타사의 무료 대체 서비스에 반대하는 로비도 해왔다고 전하고 있다.

이러한 행동의 자세한 경위나 개별의 정당성은 이번에 확인할 수 있었던 발췌만으로는 판단할 수 없다. 다만, 기사가 시사하는 것은 "올바른 일을 하는 기업"이라는 이미지와 경쟁의 현장에서 보이는 엄격한 태도 사이에 주변이 격차를 느끼고 있다는 구도다.

여기에는 AI 기업에 국한되지 않는 문제가 있다.

엄격한 안전 기준은 이용자를 보호하기 위해 필요할지도 모른다. 동시에 대응에 막대한 비용이 들면 자금이나 인재에 여유가 있는 기업일수록 유리해질 가능성도 있다.

그러나 그것만으로 "안전에 대한 우려는 모두 겉치레다"라고 단정하는 것도 적절하지 않다. 우려가 진짜라는 것과 그 기업에 상업적인 이익이 있다는 것은 양립할 수 있다.

같은 시점은 공개를 지지하는 기업에도 향할 필요가 있다. AI를 운영하는 시장이 확대되면 반도체나 클라우드 등의 수요로 이어질 수 있다. 공개의 이념과 사업상의 이익도 동시에 존재한다.

기업의 주장을 읽을 때는 선의인지 악의인지를 추측하기보다 제안된 규칙이 누구에게 어떤 부담과 이익을 가져다주는지를 보는 것이 더 유익하다.

SNS에서는 공개의 가치를 주장하는 목소리――다만 업계 당사자의 발언

이 논쟁은 SNS에서도 경영자들이 스스로 입장을 나타내는 형태로 확산되었다.

이하는 관련된 7월의 공개 서한을 둘러싼 X 게시물에 대해 게시물 내용을 게재한 보도로부터 확인한 요지이다. 11월 13일의 NYT 기사에 대한 직접적인 반응이나 일반 이용자 전체의 의견을 나타내는 것은 아니다.

젠슨 황 씨――공개형과 비공개형 모두가 필요

황 씨는 공개 모델이 안전성이나 사이버 보안, 기술의 보급, 자율적인 운영을 지원한다는 취지의 게시물을 올렸다.

주목할 것은 비공개 모델을 불필요하다고 하지는 않는다는 점이다. 최첨단의 공개 모델과 비공개 모델 모두가 필요하다는 자세로, 단순한 양자택일을 피하고 있다.

샘 알트만 씨――양쪽 방식으로 미국이 이기는 것을 지지

OpenAI의 샘 알트만 씨도 공개형과 독자의 비공개형 양쪽에서 미국이 성공하는 것을 바란다고 하여 서한에 대한 지지를 표명했다고 전해지고 있다.

이 발언은 모델 제공 기업의 입장이 "공개하는 회사", "닫는 회사"로 깔끔하게 나뉘는 것이 아니라는 것을 보여준다. 기업은 자사의 사업과 정책 양면에서 공개 모델을 평가하고 있다.

브라이언 암스트롱 씨――기업의 업무에 맞춰 변경할 수 있는 가치

Coinbase의 브라이언 암스트롱 씨는 미국의 강력한 공개 모델을 지지하고 자사의 처리를 이러한 모델로 옮기는 노력을 언급했다.

그 이유로 든 것이 모델을 업무에 맞춰 조정할 수 있는 것이었다.

이는 일본 기업에도 이해하기 쉬운 논점이다. 일반적인 성능 평가에서 최고 점수를 받는 AI와 자사의 업무에서 비용 효과가 높은 AI는 반드시 일치하지 않는다.

다만, 이들은 모두 AI 시장에 이해관계를 가진 당사자의 발언이다. SNS에서 두드러지는 경영자의 목소리를 그대로 사회의 총의로 읽을 수는 없다.

일본의 이용자에게 돌아오는 "누가 결정하는가"라는 문제

일본에서 AI를 사용하는 사람에게 이 대립이 구체적인 의미를 가지는 것은 서비스의 선택과 운영의 장면이다.

예를 들어, 업무를 하나의 AI 서비스에 깊이 통합한 후 가격이나 이용 조건이 바뀌면 어떻게 될까. 다른 모델로 옮기기 위해 얼마나 많은 수고가 필요할까.

반대로 자사에서 공개 모델을 운영하는 경우 갱신이나 취약성에 대한 대응을 누가 맡을 것인가. 모델을 입수할 수 있는 것과 안전하게 계속 사용할 수 있는 것은 별개의 과제다.

이렇게 생각하면 확인해야 할 것은 "어느 회사가 옳은가"만이 아니다.

요금, 성능, 데이터의 관리 방법, 변경에 대한 대응, 다른 서비스로 옮길 수 있는 여지. 이들을 조합하여 생각할 필요가 있다.

정책에 대해서도 마찬가지다. 안전성 시험을 요구한다면 무엇을 측정하고 누가 평가하며 결과를 어디까지 공개할지가 중요해진다. 공개를 촉진한다면 악용이나 사고에 대한 책임을 어떻게 분담할지가 문제가 된다.

"안전하니까 믿어달라", "오픈이니까 안심이다"라는 설명만으로는 이용자는 충분히 판단할 수 없다.

AI의 미래를 기업의 자기 평가만으로 결정하지 않기 위해

Anthropic에 대한 반발에는 안전성을 둘러싼 진지한 의견 차이도 있고 급성장하는 경쟁 상대에 대한 경계도 있을 것이다. 다만, 외부에서 확인할 수 없는 동기를 하나로 단정해서는 안 된다.

중요한 것은 아모데이 씨가 좋아하는지 여부도, 서명한 기업이 몇 개사인지도 아니다.

안전성의 주장을 독립된 검증으로 연결할 수 있는가. 공개의 이익을 일부 기업의 이익뿐만 아니라 이용자의 선택지로 연결할 수 있는가. 그리고 중대한 문제가 발생했을 때 누가 설명과 대응의 책임을 지는가.

AI를 둘러싼 벽에는 위험을 억제하는 역할이 있다. 한편, 그 벽이 이용자의 선택이나 외부로부터의 검증을 좁히는 가능성도 있다.

필요한 것은 벽을 높일지 철거할지라는 구호만이 아니다. 어디에, 무엇을 위해 설치하고 그 타당성을 누가 확인할 것인가라는 구체적인 논의다.

출처 및 참고 자료

1. The New York Times: Anthropic에 대한 업계 내 반발, 공개 모델을 둘러싼 기업 간의 대립, 상관행에 대한 비판에 대해.
   https://www.nytimes.com/2026/11/13/technology/anthropic-dario-amodei-ai-openai.html

2. Anthropic 공식 성명: 공개 모델의 전면 금지를 부정하고, 고성능 공개 및 비공개 모델에 대한 안전성 시험 등을 제안한, 2026년 7월 27일의 견해.
   https://www.anthropic.com/news/position-open-weights-modelsanthropic.com

3. "Open Weights and American AI Leadership": 공개 모델이 경쟁, 이용자의 관리권, 안전성에 가져다주는 이점을 논한 기업 연합의 공개 서한.
   https://images.nvidia.com/pdf/Open-Weights-and-American-AI-Leadership.pdfimages.nvidia.com

4. AI Frontier: 공개 서한에 대한 서명의 경위와