메타, 8160억 매개변수 모델 가중치 공개…맥 스튜디오 2대로 로컬 실행

오픈웨이트 모델은 가중치가 공개돼 이용자가 자체 환경에서 실행하고 수정할 수 있지만, 메타가 정한 라이선스 조건이 함께 적용되는 모델이다. 뮤즈 스파크 오픈이 이 방식으로 풀렸다. 메타는 이 모델을 현재까지 가장 뛰어난 미국 오픈웨이트 모델이라고 주장했다.

공개된 모델의 내용

총 매개변수는 8160억개이며, 전문가 혼합 구조로 토큰마다 420억개만 활성화한다. 전문가 혼합은 모델을 여러 전문가 모듈로 나눠 입력마다 일부만 골라 쓰는 방식이다. 허깅페이스 모델 카드는 전문가 모듈이 전체 매개변수의 약 97%를 차지한다고 설명했다.

컨텍스트 창은 100만 토큰이다. 컨텍스트 창은 모델이 한 번에 읽고 참고할 수 있는 글의 최대 분량이다. 텍스트·이미지·동영상·음성을 입력받아 텍스트를 내놓으며, 추론 강도는 네 단계로 조절하고 기본값은 엑스하이다.

맥 스튜디오 로컬 실행 조건

메타는 애플과 협력해 각각 512GB 통합 메모리를 갖춘 M5 울트라 맥 스튜디오 2대에 모델을 나눠 실행하도록 최적화했다. 통합 메모리는 CPU와 GPU가 같은 메모리를 함께 쓰는 구조다. 메타는 맥 스튜디오 2대가 1TB 통합 메모리를 가진 한 대의 슈퍼컴퓨터처럼 동작한다고 설명했다.

메타는 애플의 머신러닝 프레임워크 MLX를 썼고, 애플은 맥 여러 대에 모델을 분산 실행하는 기능을 담은 최신 MLX와 기술 문서를 공개했다. 애플 시험에서 4비트로 양자화한 가중치는 493GB를 차지해 맥 스튜디오 한 대에는 들어가지 않았다. 양자화는 가중치의 정밀도를 낮춰 메모리 사용량을 줄이는 기법이다. 같은 보도에서 8192토큰 문맥 조건의 생성 속도는 2대 구성 초당 25토큰, 4대 구성 초당 37토큰이었다.

장비 비용도 따져야 한다. M5 울트라와 256GB 메모리를 갖춘 맥 스튜디오의 최저 가격은 1만799달러이며, 512GB 모델은 2026년 10월 하순 출시 예정이지만 가격은 공개되지 않았다. 256GB 모델 4대로 같은 총 메모리를 맞추는 비용은 매체별 추정치가 약 3만8000달러에서 4만3200달러로 달랐다.

이용 조건과 배포 경로

가중치는 메타 자체 라이선스로 배포되고, 거기에는 매출 기준이 붙는다. 모델 자체를 서비스 형태로 파는 사업자라면 계열사까지 합한 1년 매출이 2000만달러 선을 넘는 순간 메타와 따로 계약을 맺어야 한다. 다만 이 기준이 모든 이용자에게 걸리는 것은 아니다. 사내에서만 쓰거나 모델 판매가 아닌 자사 제품의 기능 하나로 넣는 쪽은 적용 대상이 아니라고

배포 경로는 허깅페이스와 아마존 세이지메이커 AI, 구글 클라우드 모델 가든이다. 세이지메이커 점프스타트는 BF16과 NVFP4 두 변형을 제공하며, BF16 체크포인트는 세이프텐서 형식으로 약 1.5TB, NVFP4 변형은 BF16의 약 4분의 1 메모리를 쓴다. AI타임스가 전한 API 요금은 100만 토큰당 입력 1.25달러, 출력 4.25달러, 캐시 입력 0.15달러이며, 제공업체에 따라 지원 컨텍스트와 이용 조건이 다르다.

성능 수치와 검증 한계

공개된 벤치마크는 메타가 내놓은 자체 평가다. 메타 측정에서 잡벤치는 61.8점, MCP-아틀라스는 89.2점, HLE-다이아몬드는 26.1점, 제로벤치는 50점으로 비교 대상인 GLM 5.3과 키미 K3보다 높게 제시됐다. 반면 메타가 공개한 코딩 평가에서는 터미널벤치 2.1이 76.4점, 딥SWE 1.1이 60점으로 두 모델보다 낮았다. 딥SWE 비교는 모델마다 쓴 코딩 도구가 달라 모델 자체만을 견준 결과로 보기 어렵다.

협력 배경과 남은 쟁점

애플과 메타는 수개월간 협력했으며, 애플 출신으로 메타에 합류한 대니얼 그로스가 양사를 연결했다고 전해졌다. 두 회사는 애플이 2021년 광고 추적을 제한한 뒤 관계가 나빠졌다고 보도됐고, 메타는 당시 이 변화로 2022년 매출이 100억달러 줄 것으로 추산했다. 양사는 이번 협력이 더 깊은 관계로 이어질지에 대해 답하지 않았다.

알렉산드르 왕 메타 최고AI책임자의 설명은 메모리 용량 문제로 요약된다. 성능이 좋은 오픈웨이트 모델은 대체로 보통 PC가 감당할 덩치가 아닌데, 맥 스튜디오라면 그 용량을 댈 수 있다는 것이다. 다만 왕은 안전성과 성능을 이유로 메타가 가장 강력한 모델은 일반적으로 오픈소스로 공개하지 않을 것이라고 말했다. 메타는 비공개 모델 뮤즈 원더가 뮤즈 스파크 오픈보다 성능이 높다고 밝혔다.