'2.4조 파라미터'라는 숫자에 속지 마세요 — 중국 오픈웨이트에 프로덕션 얹기 전

핵심 요약 (TL;DR)

2026년 7월, 중국 랩들이 조 단위 오픈웨이트 모델을 연달아 던졌습니다. 알리바바는 총 2.4조 파라미터의 Qwen3.8-Max를 예고했고, Moonshot의 Kimi K3(2.8조)는 출시 사흘 만에 수요가 GPU를 압도해 신규 소비자 구독을 일시 중단했습니다. 바이브코더가 봐야 할 두 숫자는 화려한 '총 파라미터'가 아니라, 실제 서빙비를 결정하는 '활성 파라미터'와 API 뒤에 남은 'GPU 잔량'입니다.

모델은 열리는데, 정작 우리가 돌릴 수 있나

지난 이틀 사이 중국발 오픈웨이트 소식이 두 개 겹쳤습니다. 한쪽은 내놓았고, 한쪽은 감당하지 못했습니다. 이 대비가 바이브코더에게 던지는 교훈이 꽤 실용적입니다.

먼저 알리바바. 2026년 7월 19일 Qwen 팀이 차기 플래그십 Qwen3.8-Max-Preview를 공개했습니다. 총 2.4조(2.4T) 파라미터의 스파스 MoE, 텍스트·이미지·영상·문서를 받는 멀티모달, 컨텍스트는 약 0.98M 토큰(반올림해 흔히 1M으로 표기)입니다. Qwen 팀은 "자체 벤치마크 기준 Fable 5 다음으로 강하다"고 주장하며 곧 오픈웨이트로 공개하겠다고 예고했습니다(marktechpost 보도).

여기서 반드시 짚어야 할 게 있습니다. "Fable 5 다음"은 100% 알리바바의 자체 주장입니다. 공개 벤치마크도, 모델카드도, 라이선스도, 가중치도 아직 없습니다. 지금 쓸 수 있는 건 알리바바 Token Plan(표준가의 10%)과 Qoder에서 도는 프리뷰뿐이죠. SCMP가 같은 사건을 보도하면서도 모든 스펙을 '알리바바 주장'으로 귀속한 이유입니다. 마케팅 자료를 벤치마크로 착각하면 안 되는 겁니다.

'총 파라미터'는 마케팅, '활성 파라미터'가 청구서입니다

2.4조이라는 숫자는 압도적으로 들립니다. 하지만 MoE 모델에서 이 총량은 착시를 부릅니다. 진짜 서빙비를 결정하는 건 매 토큰마다 실제로 켜지는 활성 파라미터(active params)인데, 알리바바는 이 숫자를 공개하지 않았습니다.

간단한 계산을 해보죠. 2.4T 총량은 4bit로 압축해도 약 1.2TB입니다. H200 한 장의 메모리가 141GB이니, 이 모델은 GPU 한 장으로는 아예 올라가지도 않습니다. 냉장고를 사놓고 보니 우리 집 문으로는 안 들어오는 상황인 거죠. 그런데 활성 파라미터가 공개되지 않았으니, 실제로 얼마를 태워야 한 번 추론하는지 아직 아무도 계산할 수 없습니다. '오픈웨이트'라는 단어가 곧 '내가 돌릴 수 있다'는 뜻은 아닙니다.

강해도 GPU가 없으면 못 씁니다 — Kimi K3의 교훈

두 번째 소식이 이 지점을 더 아프게 증명했습니다. 7월 16일 공개된 Kimi K3(2.8조 MoE, 1M 컨텍스트, 네이티브 비전)가 폭발적 수요를 감당 못 해, Moonshot AI가 7월 19~20일 신규 소비자 구독을 일시 중단했습니다. 회사 공지는 이렇게 적혀 있었습니다. "Kimi K3가 예상보다 훨씬 큰 사랑을 받아서, 우리 GPU가 버거워하고 있다(our GPUs are feeling it)." 출시 첫 48시간 요청량이 컴퓨트 상한에 근접한 겁니다(Reuters 보도).

여기서 정확히 구분할 것. 중단된 건 '신규 소비자 구독'이지 API가 아닙니다. 기존 구독자는 영향이 없고 용량은 빠르게 증설 중이라고 밝혔죠. 이 병목은 홍콩 IPO 추진과 맞물려 나왔고, 오픈웨이트 자체는 7월 27일 공개가 예정돼 있습니다. 미국의 대중 첨단칩 수출 규제 속에서, 중국 랩의 컴퓨트 상한이 곧 제품 상한이 된다는 걸 보여준 장면입니다.

그래서 프로덕션 전에 확인할 세 가지

한쪽은 모델을 내놓고, 한쪽은 못 감당하는 것. 이게 지금 중국 오픈웨이트의 두 얼굴입니다. 저가 중국 API에 프로덕션을 얹으려는 바이브코더라면 세 가지를 전제에 넣으시길 권합니다. 총 파라미터가 아니라 활성 파라미터를 확인할 것(그게 실제 비용입니다), API의 컴퓨트 상한을 리스크로 계산할 것(가입·증설이 갑자기 막힐 수 있습니다), 벤치마크가 자체 주장인지 독립 검증인지 구분할 것. '오픈'이라는 단어가 세 층위에서 서로 다른 속도로 움직이고 있으니까요.

자주 묻는 질문 (FAQ)

Q. Qwen3.8-Max가 정말 Fable 5 다음으로 강한가요?
현재로선 알리바바의 자체 주장일 뿐입니다. 공개 벤치마크, 모델카드, 제3자 검증이 전무하고 가중치도 공개되지 않았습니다. 독립 벤치마크가 나오기 전까지는 '주장'으로 읽는 게 안전합니다.

Q. 활성 파라미터가 왜 그렇게 중요한가요?
MoE 모델은 매 추론마다 전체가 아니라 일부 전문가만 켭니다. 실제 연산량과 서빙비는 이 활성 파라미터가 결정하므로, 총 파라미터만 보고 비용을 가늠하면 크게 어긋납니다.

Q. 중국 저가 API에 프로덕션을 얹어도 되나요?
비용 이점은 분명하지만, Kimi K3 사례처럼 컴퓨트 상한에 걸려 신규 접근이 막힐 수 있습니다. 대체 모델로의 폴백 경로를 미리 설계해두는 것을 권합니다.