Anthropic과 AI 업계의 딜레마: "안전 우선"이어야 하는데 — Anthropic을 궁지로 몰아넣은 것은 누구인가

Anthropic과 AI 업계의 딜레마: "안전 우선"이어야 하는데 — Anthropic을 궁지로 몰아넣은 것은 누구인가

1) "거부한 기업"이 '국가안보 위협'으로 간주되는 사건의 윤곽

금요일 오후, Anthropic에게 최악의 뉴스가 날아들었다. 미국 정부가 이 회사와의 관계를 끊고 국방 관련 거래에서 배제하려는 움직임이 보도된 것이다. 그 계기는 CEO 다리오 아모데이가 "미국 국민에 대한 대규모 감시"나 "인간의 개입 없이 표적 선정 및 살상까지 수행하는 완전 자율 무기"에 대한 사용 요구를 거부한 것으로 알려졌다. 그 결과 최대 2억 달러 규모의 계약이 위태로워졌고, 다른 방위 관련 기업들과도 일을 할 수 없게 될 가능성이 생겼다.


이 구조가 까다로운 이유는 단순히 '정부와 민간 기업의 계약 문제'로 끝나지 않는 점에 있다. 어느 날 갑자기 "그 AI는 위험하다", "공급망의 위협이다"라는 라벨이 붙으면, 해당 기업뿐만 아니라 주변의 공급망이나 파트너 기업까지 연쇄적으로 위축된다.

DefenseScoop도 이러한 강경한 태도가 프론티어 AI 기업 전체에 냉수를 끼얹을 가능성을 지적하고 있다.


2) TechCrunch가 지적한 '함정': 적은 정부만이 아니다

TechCrunch 기사가 흥미로운 점은 단순히 "정부가 횡포다/기업이 옳다"로 이분하지 않는다는 것이다. 기사는 MIT 물리학자이자 Future of Life Institute 창립자인 Max Tegmark의 시각을 빌려 더 아픈 질문을 던진다.

왜 이런 사태를 막을 '법'이 처음부터 없었는가?

Tegmark의 대답은 신랄하다. Anthropic은 "안전 제일"을 내세워 왔지만, 업계 전체로서 '구속력 있는 규제'를 지지하지 않고 "믿어달라. 자발적으로 하겠다"고 계속 말하며 로비 활동도 포함해 규제를 멀리해 왔다. 그 결과, 식품 위생에는 규제가 있지만 AI에는 없다는—극단적인 비유로 말하자면 "샌드위치보다 AI의 규제가 느슨한" 상태가 생겼다는 것이다.


여기서 기사 제목의 "Anthropic이 스스로 만든 함정"이 효과를 발휘한다. 대규모 감시나 자율 무기를 거부하는 '윤리적 레드라인'을 내세워도, 이를 뒷받침할 법적 기반이 없으면 상대(정부나 발주자)가 강하게 나올 순간에 발을 헛디딜 수 있다.


"법으로 금지되지 않았다면 요구될 가능성이 있다"—그 현실이 지금 가장 생생한 형태로 표면화되었다.


3) 더욱 아이러니한 점: 안전의 간판과 '협력의 역사'

기사 중에서 Tegmark는 Anthropic이 이전부터 국방·정보기관과 협력해 온 점(적어도 2024년경까지 거슬러 올라간다고 시사)에도 언급하며 브랜드와 현실의 괴리를 지적한다.

 
이 논점은 SNS에서 가장 불타기 쉽다. 왜냐하면 여론은 "완전히 깨끗한 이상주의자"나 "결국은 같은 부류" 중 하나로 이해하고 싶어하기 때문이다.


실제로 SNS상의 반응도 두 갈래로 나뉘었다.

  • 칭찬 측: "감시와 자율 살상에 NO라고 한 것은 중요하다", "선 긋기를 지킨 기업이 처벌받는 것은 이상하다"

  • 비판 측: "안전 제일을 내세우면서 국방과 손잡았다면, 이제 와서 피해자 행세?", "규제를 싫어해 온 대가가 돌아온 것뿐"


이 '이항 대립' 자체가 AI 거버넌스 논의를 어렵게 하고 있다. 현실은 대개 회색이며, 기업은 이상과 사업 사이에서 흔들리고, 정부는 안전보장과 시민의 자유 사이에서 흔들린다. 하지만, 논란은 회색을 허용하지 않는다.


4) "중국에 이기기 위해" 논법에 대한 반격—그리고 '국가안보'의 재정의

또 하나, 기사의 핵심이 되는 것은 "중국에 패배한다"는 논법이다. 규제에 반대할 때 종종 등장하는 상투적인 표현이다.


이에 대해 Tegmark는 "중국이 인형형·의인화 AI(예: AI 연인)를 금지하는 방향으로 가고 있다"는 예를 들어, '무제한으로 개발하는 것이 아니다'라고 주장한다. 더 나아가, 통제할 수 없는 초지능은 적국보다 먼저 자국 정부의 통치를 위협할 수 있으므로, 초지능은 자산이 아니라 국가안보상의 위협이라는 프레이밍으로 가져간다.


이 시각은 SNS에서 쉽게 공감을 얻는다. "추진이냐 규제냐"라는 단순한 축이 아니라, "통제 불가능하면 아군도 위협"이라는 논리이기 때문이다. 실제로, 같은 '안전보장'이라는 단어를 사용하면서, 정부는 "배제"의 근거로 삼고, Tegmark는 "개발 가속의 위험성"의 근거로 삼고 있다.


같은 단어로 정반대의 결론에 이른다. 여기 AI 시대의 정치 언어의 무서움이 있다.


5) SNS가 가속화한 '연대'와 '편승'

이번 사건이 "SNS 시대의 사건"이라고 느끼게 하는 것은, 반응이 의사결정에 역류하기 시작한 점이다.


(1) 직원들에 의한 공개 서한
TechCrunch에 따르면, Google과 OpenAI의 직원들이 Anthropic의 레드라인(대규모 감시와 완전 자율 무기의 거부)을 지지하며 자사에도 같은 선 긋기를 요구하는 공개 서한에 서명했다. 서한에는 "공포로 분열시키려 하고 있다"는 취지의 문구도 인용되어 있다.


(2) 영향력 있는 인물의 게시물
동 기사에서는, Google의 Jeff Dean이 "대규모 감시는 헌법 수정 제4조에 반하며 표현의 자유에 위축 효과를 준다"는 취지로 X에 게시한 것도 소개하고 있다.

 
이러한 '개인의 발신'은 기업 공식 성명보다 확산되기 쉽고, 결과적으로 "업계의 분위기"를 만들어버린다.


(3) 아이러니한 '제품 효과'
더 나아가 TechCrunch는, 소동의 주목을 바람으로 Claude 앱의 순위가 미국 App Store에서 2위로 상승했다고 보도했다(랭킹 추이 데이터에도 언급하고 있다). 논란이 서비스의 노출을 끌어올린다—좋든 나쁘든, SNS의 경제권다운 결과다.

6) OpenAI의 '같은 선 긋기' 선언은 진짜인가

사태를 더욱 복잡하게 만든 것은, OpenAI가 국방부와의 합의를 발표하고 "대규모 감시와 자율 살상은 금지한다"는 취지의 안전 원칙을 포함했다고 설명한 것이다. Guardian은, 샘 알트만이 X에서 같은 원칙을 언급하고, 더 나아가 "같은 조건을 다른 AI 기업에도 제시해 주길 바란다"고 말했다고 전한다.


여기서 SNS의 반응은 또다시 갈라진다.

  • 긍정적: "경쟁자도 같은 선을 그으면, 정부의 '분열 전략'이 통하지 않을 것이다"

  • 회의적: "'조항이 있다'와 '운영에서 지켜진다'는 별개", "결국은 시장을 차지하려는 것뿐인가?"


Tegmark가 제안하는 "임상 시험과 같은 독립 검증을 거쳐 출시한다"는 발상은, 바로 이 불신에 대한 답변이기도 하다. 약속이 아니라 검증. 선의가 아니라 제도.

7) 앞으로 일어날 일: AI 거버넌스는 '기업 윤리'에서 '제도 설계'로

이번 소동이 제기한 것은, AI의 안전이 "각사의 이념"만으로는 지켜지지 않는다는 현실이다. 이념은 변경될 수 있다. 경영 판단으로 철회될 수 있다. 정권이 바뀌면 계약의 전제도 바뀐다. TechCrunch가 지적하듯이, 기업이 스스로 내세운 안전의 서약을 완화했다는 문맥도 의심을 증폭시킨다.


그렇기 때문에, 논점은 "Anthropic은 선인가 악인가"에서 "무엇을 법으로 묶고, 무엇을 독립 감사하며, 어디에 투명성을 둘 것인가"로 옮겨갈 수밖에 없다.


이번 사건은 AI 업계가 계속 미뤄왔던 숙제—'자율 규제로 극복한다'는 꿈—의 기한이 끝났음을 알리는 것일지도 모른다.


출처

관련 기사