"AI는 클라우드에서 개인 PC로" Meta가 출시한 Muse Glimmer, 일본 기업에도 다가오는 '로컬 AI 혁명'

생성 AI를 이용하려면, 거대 기업이 운영하는 데이터 센터에 인터넷을 통해 접근해야 한다는 것이었다.

그런 몇 년간의 "상식"이 다시 흔들리기 시작하고 있다.

Meta Platforms는 2026년 8월 10일, 새로운 AI 모델 "Muse Glimmer"를 공개했다. 가장 큰 특징은 단순히 성능이 높은 생성 AI를 발표한 것이 아니다. 300억 파라미터라는 규모를 가지면서도 개인의 Mac이나 PC, 그리고 단일 소비자용 GPU에서 작동할 수 있도록 명확히 설계된 점이다.

게다가 Meta가 상정하고 있는 것은 질문하면 답변을 반환하는 것만이 아닌 챗봇이 아니다.

일정을 확인하고, 파일을 정리하며, 필요한 도구를 호출하고, 중간에 실패하면 원인을 생각하고 재시도한다. 즉, 인간으로부터 일을 받아 여러 작업을 수행하는 "AI 에이전트"가 클라우드의 저편이 아닌 자신의 컴퓨터 안에서 항상 작동하는 미래이다.

Meta에 따르면 Muse Glimmer는 300억 파라미터로, Apache 2.0 라이선스 하에 모델 가중치가 공개되었다. 텍스트뿐만 아니라 이미지를 포함한 입력에 대응하며, 100개가 넘는 언어의 데이터로 훈련되었다. 로컬 에이전트, 함수 호출, 코딩, LLM에 의한 평가 등이 주요 용도로 언급되고 있다.

이는 "새로운 AI 모델이 하나 더 늘었다"는 것만의 뉴스가 아니다.

AI의 주전장이 "누가 가장 똑똑한 모델을 가지고 있는가"에서 "누가 AI를 소유하고, 어디서 작동시키며, 누가 컨트롤하는가"라는 다음 단계로 이동하기 시작한 것을 상징하는 사건이기 때문이다.

30B 모델을 "손 안"에서 작동시키기

Muse Glimmer의 기술적으로 중요한 포인트는, 300억 파라미터라는 모델을 현실적인 로컬 환경에 밀어넣으려 하고 있다는 것이다.

Meta에 따르면, 일반적인 정확도로 300억 파라미터를 유지하려면 55GB를 초과하는 메모리가 필요하다. 한편, Muse Glimmer에서는 양자화에 의해 모델 본체를 약 4비트 정확도로 압축하여 20GB 미만까지 소형화하고 있다.

이로 인해, 모델 본체뿐만 아니라 긴 대화나 작업 내용을 유지하기 위한 KV 캐시, 이미지 이해용 인코더, 가속화용 보조 모델까지 포함하여 24GB 또는 32GB 정도의 메모리 환경에 수용하는 것을 목표로 하고 있다.

물론, "보통의 노트북 PC라면 무엇이든 쾌적하게 작동한다"는 의미는 아니다.

24GB급의 GPU 메모리는, 2026년 현재에도 일반 가정의 표준적인 컴퓨터에서 보면 상당히 상위의 구성이다. Muse Glimmer가 보여준 것은, 거대 AI가 갑자기 스마트폰 수준의 기기에서 작동하게 되었다는 이야기가 아니라, 그동안 기업의 클라우드 GPU 군에 의존하던 클래스의 AI가 하이엔드 PC나 워크스테이션의 영역까지 내려왔다는 것이다.

이 차이는 크다.

몇 년 전까지, 강력한 생성 AI를 사용하는 것은 "거대 AI 기업의 서비스를 빌리는 것"과 거의 동의어였다. 그것이 앞으로는, "AI 모델 자체를 다운로드하여, 자사나 개인이 관리한다"는 선택지가 현실감을 더해간다.

챗봇 AI가 아닌 "상주하는 대리인"

Muse Glimmer에서 특히 주목해야 할 것은, Meta가 "항상 작동하는 로컬 에이전트 워크플로우", 즉 항상 작동하는 로컬 AI 에이전트를 전면에 내세우고 있다는 것이다.

예를 들어 자신의 전용 AI에게,

"다음 주 일정을 정리하고, 미회신 메일에 회신안을 작성하고, 프로젝트별로 자료를 분류해줘"

라고 요청한다고 하자.

기존의 챗봇 AI라면, 각각에 대해 방법을 설명하고 끝날지도 모른다.

AI 에이전트는 다르다.

캘린더를 확인하고, 파일 시스템을 조사하며, 필요에 따라 다른 소프트웨어를 호출하고, 결과를 확인하여 다음 행동을 결정한다. Meta는 Muse Glimmer에 대해, 장시간에 걸친 다단계 처리, 정확한 도구 호출, 오류에서의 복구, 이미지나 문서의 이해 등을 에이전트용 능력으로 언급하고 있다.

여기서 "로컬"이 결정적인 의미를 가진다.

AI가 편리해질수록, 그 AI에는 개인의 일정, 메일, 계약서, 사진, 기업 문서 등, 극히 민감한 정보에 대한 접근 권한이 필요해진다.

AI가 클라우드 상에서만 작동할 경우, 그러한 정보를 어디까지 외부 서비스로 보내도 되는가라는 문제가 항상 따라다닌다.

한편 로컬 AI라면, 설계에 따라 정보가 단말기나 사내 네트워크에서 외부로 나가지 않고 처리할 수 있다.

이는 일본 기업에 있어 극히 중요한 포인트가 될 수 있다.

왜 저커버그는 "AI를 배포하라"고 주장하는가

Muse Glimmer의 발표와 동시에, Meta CEO 마크 저커버그는 "The Future is for Everyone"이라는 제목의 장문의 에세이를 발표했다.

거기서 제시된 기본 사상은 명쾌하다.

고도한 AI, 궁극적으로는 인간을 초월하는 "슈퍼 인텔리전스"를, 소수의 거대 기업이나 정부 기관만이 컨트롤하는 미래가 아니라, 가능한 한 많은 개인이 이용하고, 자신을 위해 작동할 수 있는 미래를 만들어야 한다는 것이다.

저커버그는, 좋은 미래를 만드는 열쇠에 대해, 권력의 균형을 개인 쪽으로 향하게 하고, 슈퍼 인텔리전스를 널리 분산시키는 것이라고 논하고 있다.

이는 OpenAI나 Anthropic 등이 중심이 되어 발전시켜 온, 클라우드 상의 거대 모델을 API나 서비스로 제공하는 접근과는 다른 사상을 내세우는 것이다.

물론, "클로즈드 대 오픈"이라는 단순한 이분법으로 생각해서는 안 된다.

고도한 모델에는 사이버 공격, 위험물, 사기, 자동화된 부정 행위 등에 대한 악용 위험도 있다. 모델 가중치를 자유롭게 이용할 수 있다면, 제공 회사가 클라우드 측에서 설정한 안전 제어를 변경하는 것도 가능해진다.

자유도가 높다는 것은, 그만큼 이용자 측의 책임이 커진다는 것이기도 하다.

Meta 자신도 Muse Glimmer에 대해 안전성 평가를 실시했다고 하지만, 오픈 가중치 AI가 보급될수록, "제공 기업이 지키는 AI"에서 "이용자 자신이 관리하는 AI"로 안전 관리의 일부가 이동하게 된다.

SNS에서는 "Meta가 돌아왔다"

발표 후, 해외의 AI 관계자들로부터 환영하는 목소리가 잇따랐다.

Meta의 전 수석 AI 과학자인 얀 르쿤은 X에서 발표를 평가. Hugging Face CEO 클레망 델랑은, Meta가 다시 오픈 모델을 도입한 것에 대한 기대를 나타냈다.

Box CEO 아론 레비는, 이번 움직임을 Meta 한 회사의 이야기가 아니라, 미국이 오픈 가중치 AI 경쟁에 본격적으로 돌아온 사건으로 평가. 모델을 자사에서 작동시킬 수 있는 기업이 늘어남으로써, AI를 이용하는 비용 자체를 낮출 가능성에도 언급하고 있다.

특히 주목받고 있는 것은, Muse Glimmer의 다음이다.

Meta는, 더 고성능인 "Muse Spark 1.2"의 가중치에 대해서도 공개할 방침을 표명하고 있다.

워튼 교수 이선 몰릭은, 오히려 이것을 중요한 뉴스로 받아들였다. 현상에서는 중국 측의 최첨단 오픈 가중치 모델이나 최고 성능의 클로즈드 모델과의 차이는 남아 있다고 하면서도, Meta가 지속적으로 새로운 모델을 공개한다면 경쟁 환경에 큰 영향을 미칠 것이라는 견해를 나타내고 있다.

한편으로 "말하는 것과, 하는 것이 같은가"

환영 일색인 것은 아니다.

Y Combinator의 정책 책임자 루서 로우는, 저커버그의 메시지 자체에는 설득력이 있다고 하면서도, "이야기하는 사람"의 신뢰성에 의문을 제기하고 있다.

이유 중 하나로 지적된 것은 Meta 자신의 플랫폼 정책이다.

"개인이 자유롭게 AI를 선택할 수 있어야 한다"고 주장하면서, 자사 플랫폼에서는 경쟁 AI 서비스의 접근을 제한한다면, 정말로 "개인에게 권력 이양"이라고 부를 수 있는가라는 문제 제기이다.

이 비판은 중요하다.

오픈 AI란, 단순히 모델 파일을 다운로드할 수 있다는 것만이 아니다.

어떤 AI를 사용할지를 이용자 자신이 결정할 수 있는 것, 기존 서비스와 연결할 수 있는 것, 자신의 데이터나 AI 에이전트를 다른 서비스로 이동할 수 있는 것 등도, "개인이 AI를 컨트롤한다"는 이념에는 포함되어야 한다.

Meta의 이번 선언이 장기적인 기업 이념이 될 것인가, 아니면 AI 시장에서 경쟁력을 되찾기 위한 전략인가.

그 평가에는, 앞으로의 행동을 볼 필요가 있다.

개발자 커뮤니티는 이미 "Qwen이나 Gemma와 어느 것이 좋은가"로

기술자의 반응은 더욱 현실적이다.

Hacker News에서는 공개 직후부터 Muse Glimmer를 둘러싸고 대규모 논의가 일어나, Qwen이나 Gemma 등 동일 클래스의 모델과 어느 것이 우수한지, 양자화했을 때의 메모리 사용량, 추론 속도, 도구 호출 능력 등이 비교되고 있다.

발표로부터 십여 시간의 단계에서 1000포인트를 넘고, 500건 이상의 댓글이 모여 있으며, "오픈 가중치의 선택지가 늘어나는 것 자체를 환영한다"는 목소리와 "다음에 등장할 중국 모델과의 비교를 기다리고 싶다"는 냉정한 반응도 많다.

여기에는 현재의 AI 경쟁을 상징하는 변화가 있다.

OpenAI, Anthropic, Google, Meta만을 비교하면 좋았던 시대가 아니다.

DeepSeek이나 Qwen 등 중국발 오픈 가중치 모델이 급속히 성능을 높이고, 전 세계의 개발자가 자유롭게 다운로드하여 비교하게 되었다.

Meta가 이번에 오픈 모델에 다시 힘을 쏟는 배경에는, 이러한 중국 측의 존재도 무시할 수 없다.

AI의 경쟁은 "미국 기업끼리"가 아니라, 전 세계의 모델이 몇 주 단위로 순위를 바꾸는 경쟁이 되고 있다.

일본의 X에서는, 이미 실기 검증이 시작되고 있다

흥미로운 것은, 일본 사용자의 반응이다.

발표로부터 아직 시간이 지나지 않았음에도 불구하고, X에서는 이미 Muse Glimmer를 자신의 PC에 도입하여, 실제로 추론 속도를 측정한 보고가 여러 개 나오고 있다.

어떤 사용자는 AMD Radeon 계열 GPU로 실행한 결과를 보고하고, 다른 사용자는 손에 있는 머신에서의 속도를 공개. 또한 "메모리가 부족했다"는 보고도 있다.

일본어 성능에 대해서도 의견이 나오기 시작하고 있다.

일본어 이해 그 자체에 대해 높이 평가하는 목소리가 있는 한편, "표현에 약간의 위화감이 있다", "롤플레이 용도로는 Gemma 계열의 대체가 되지 않는다"고 하는 실사용 기반의 평가도 확인할 수 있다.

또한 "생각 없이도 똑똑하게 느껴지기 때문에, 채팅용으로 사용할 수 있지 않을까"라는 긍정적인 반응도 있다.

당연히, 이것들은 공개 직후의 개인 테스트이며, 통일된 조건에 의한 공식적인 벤치마크는 아니다.

양자화 방식, GPU, 컨텍스트 길이, 추론 소프트웨어에 따라 결과는 크게 달라진다.

그럼에도, "발표된 AI에 대해 기사를 읽는" 단계에서 "그날 안에 다운로드하여, 자신의 GPU로 시험하는" 단계로 일본의 AI 커뮤니티가 이동한 것은 상징적이다.

오픈 가중치 AI의 경쟁에서는, 사용자 자신이 평가자가 된다.

일본 기업에 있어 최대의 의미는 "AI 요금"일지도 모른다

일본 기업의 시점에서 생각하면, Muse Glimmer의 가치는 벤치마크 순위만으로는 측정할 수 없다.

첫 번째 포인트는 비용이다.

클라우드형 생성 AI에서는 보통, API를 호출할 때마다 이용 요금이 발생한다.