GLM-5.2, 오픈 웨이트 1위 모델의 진짜 스펙과 로컬 실행의 현실 (vettedconsumer.com)

한줄 요약

오픈 웨이트 최강 모델 GLM-5.2, 하지만 로컬 실행엔 256GB 이상 메모리가 필요하다.

Z.ai가 공개한 GLM-5.2는 현재 독립 벤치마크 기준으로 오픈 웨이트 모델 중 가장 높은 성능을 기록한 모델이다. 단순히 "중국 AI 신작"으로 흘려볼 수 없는 이유가 있는데, MIT 라이선스로 공개됐고 아키텍처 수준의 효율 혁신이 실제로 들어가 있기 때문이다. 다만 "오픈"과 "실행 가능"은 완전히 다른 이야기다.

무엇이 달라지나?

GLM-5.2는 총 7530억 개의 파라미터를 가진 Mixture-of-Experts 구조로 설계됐다. 토큰당 실제로 활성화되는 파라미터는 약 400억 개로, 이 구조 덕분에 모델 자체 크기에 비해 추론 비용을 낮출 수 있다. 컨텍스트 윈도우는 전작 GLM-5.1의 20만 토큰에서 100만 토큰으로 5배 늘었고, 웨이트는 Hugging Face의 zai-org/GLM-5.2 저장소에서 2026년 6월 16일부터 공개됐다.

성능 수치는 독립 기관에서 확인된다. Artificial Analysis Intelligence Index v4.1에서 GLM-5.2는 51점으로 1위를 기록했으며, MiniMax-M3와 DeepSeek V4 Pro(각 44점), Kimi K2.6(43점)을 앞선다. 코딩 특화 벤치마크인 Code Arena WebDev에서는 Claude Fable 5에 이어 2위다. 1등이지만 모든 태스크에서 최강이라는 의미는 아니다.

아키텍처 측면에서 주목할 부분은 IndexShare라는 기법이다. 희소 어텐션 레이어 4개 묶음마다 경량 인덱서를 하나만 실행하고, 그 결과를 나머지 3개 레이어가 재사용하는 구조다. Z.ai의 기술 블로그에 따르면 이 방식으로 100만 토큰 컨텍스트에서 토큰당 연산량(FLOPs)을 2.9배 줄였다고 한다. 훈련 초기부터 이 구조를 적용했다는 점에서, 성능 핀치 없이 효율을 높인 사례로 평가된다.

실무에서 어떤 의미인가?

외주 개발이나 사내 AI 도입을 검토하는 팀 입장에서 GLM-5.2가 흥미로운 이유는 두 가지다. 첫째, MIT 라이선스라는 점. 상업적 활용 제약이 없기 때문에 자사 서비스에 통합하거나 API를 직접 구성하는 데 법적 부담이 낮다. 둘째, 100만 토큰 컨텍스트는 긴 문서 처리, 코드베이스 전체 분석, 장기 에이전트 태스크에 실질적으로 유용하다.

반면 실제 코딩 세션 리뷰에서 드러난 약점도 있다. 과제당 약 4만 3천 개의 출력 토큰을 소비하는데, 이는 전작 GLM-5.1의 약 1.6배다. 토큰당 과금 환경에서는 비용이 빠르게 쌓이고, 로컬 하드웨어에서는 속도 병목이 된다. 오픈소스 AI를 직접 배포해서 운영하려는 팀이라면 이 토큰 소비 특성을 반드시 사전에 계산해야 한다.

데이터 보안 측면도 변수다. Z.ai의 호스팅 API를 사용할 경우 데이터가 중국 인프라를 거칠 수 있다는 우려가 커뮤니티에서 제기됐다. 민감한 데이터를 다루는 서비스라면 오픈 웨이트를 자체 인프라에서 실행하는 방식을 검토해야 하는데, 그게 아래에서 설명할 현실적 한계와 충돌한다.

도입 전 체크포인트

BF16 풀 웨이트 기준 GLM-5.2의 용량은 1.51TB다. 4비트 양자화(Q4_K_M) 기준으로도 약 476GB의 메모리가 필요하고, Unsloth의 2비트 동적 양자화(UD-IQ2_XXS)를 적용하면 약 241GB 수준까지 내려간다. 즉, 소비자용 GPU 한두 장으로는 어떤 양자화를 써도 실행 자체가 불가능하다.

현실적으로 로컬 실행이 가능한 단일 소비자 기기는 256GB 이상 통합 메모리를 탑재한 Mac Studio M3/M4 Ultra 정도다. 이 환경에서 2비트 양자화로 초당 약 3~9토큰 속도가 나온다. 128GB 구성의 머신은 아예 웨이트를 올릴 수 없다.

결론적으로 도입 전에 다음 세 가지를 먼저 따져야 한다.

• 자체 인프라 보유 여부: 256GB 이상 메모리 환경이 없다면 로컬 배포는 현실적으로 불가능하다.
• 토큰 소비량 예측: 과제당 약 4만 3천 토큰 소비를 감안해 API 비용 또는 처리 속도를 미리 시뮬레이션해야 한다.
• 용도와 빈도: 가끔 쓰는 용도라면 클라우드 GPU 렌털이 초기 비용 대비 합리적일 수 있다. 상시 운영이라면 온프레미스 구성 비용 대비 장기 ROI를 계산해야 한다.

GLM-5.2는 분명히 중요한 이정표다. 그러나 "오픈 웨이트 1위"라는 타이틀이 곧 "쉬운 도입"을 의미하지는 않는다. 하드웨어 현실을 먼저 직시하고, 용도에 맞는 실행 방식을 선택하는 게 순서다.