중국 모델은 이제 실험이 아니다 — 미국 엔터프라이즈 46%가 실측한 팩트와 팀 도입 시나리오

핵심 요약 (TL;DR)

2026년 7월 7일 CNBC 단독. OpenRouter 데이터 기준 미국 기업이 사용한 토큰 중 중국 오픈웨이트(DeepSeek·Kimi·GLM) 비중이 매주 30% 이상, 최고 46%까지 상승했습니다. 12개월 평균은 11%, 2025년 상반기는 4.5%였어요. AI 에이전트 스타트업 Lindy는 매니지드-에이전트 트래픽을 DeepSeek v4로 이관해 인퍼런스 비용을 약 90% 절감했습니다. Vercel에서 GLM 5.2는 출시 첫 주에 사용량이 약 27배 뛰었습니다.

'실험용'이라는 딱지가 떨어졌다

이 뉴스가 왜 새로운지부터 짚어야 합니다. DeepSeek·Kimi·GLM 같은 중국 오픈웨이트 모델은 지난 몇 달 계속 헤드라인에 있었어요. 그런데 대부분의 커버는 '벤치 점수가 놀랍다', '가격이 파괴적이다' 수준에 머물렀습니다. 프로덕션 트래픽에서 얼마나 쓰이는지에 대한 실측이 없었어요.

CNBC 보도의 핵심은 여기에 답을 준다는 겁니다. OpenRouter라는 인퍼런스 라우터에서 미국 기업이 실제로 태운 토큰의 30~46%가 중국 모델로 흘러가고 있다. 12개월 전엔 11%, 6개월 전엔 4.5%였던 수치예요. 벤치가 아니라 청구서 기반 실측입니다.

출처: IBTimes 커버(CNBC 재유통), The New Stack의 Lindy 이관 상세, Lindy 자체 블로그.

Lindy가 실제로 어떻게 갈아탔나 — 6단계 매뉴얼

인상 깊은 건 Lindy 블로그가 공개한 이관 프로세스입니다. 25인 팀이 매니지드-에이전트 트래픽을 Claude에서 DeepSeek v4로 옮기면서 약 90% 인퍼런스 비용 감소를 냈다고 밝혔어요. 참고로 원 CNBC는 '전면 이관'으로 헤드라인을 뽑았지만, Lindy 블로그를 뜯어보면 실제로는 에이전트 트래픽에 대한 이관입니다. 사용자가 명시적으로 선택하는 경로나 고지능이 요구되는 시나리오에서는 Claude/Sonnet가 여전히 살아있습니다. 이 구분은 팀 도입 슬라이드를 만드실 때 중요해요.

6단계로 정리하면 이렇습니다.

1. 프롬프트 재설계: DeepSeek v4 스타일에 맞춰 시스템 프롬프트와 툴 스키마 재작성
2. 오프라인 이발(evals): 기존 태스크 세트로 품질 회귀 테스트, Claude 기준 대비 편차 측정
3. 프로바이더 테스트: 여러 인퍼런스 프로바이더의 지연·신뢰성 비교
4. 온라인 이발: 실 트래픽 소량으로 A/B 태우기
5. 리텐션 확인: 이관 후 사용자 재방문·리텐션 지표 유지 여부 확인
6. 풀 램프: 문제 없으면 전체 트래픽 이전

인프라는 미국 본토 호스팅 Atlas Cloud를 썼습니다. DeepSeek v4 Flash 인퍼런스를 미국 서버에서 돌려 데이터 주권·규정 준수 이슈를 회피한 거예요. '중국 모델 = 데이터가 중국으로 간다'는 오래된 오해가 여기서 깨집니다. 모델 가중치는 오픈이고, 인퍼런스는 어디서든 돌릴 수 있으니까요.

팀 도입 슬라이드에 넣을 3점 세트

한국 팀에서 중국 오픈웨이트 도입을 논의해야 한다면, 방어해야 할 질문은 대개 세 가지입니다. 아래 세 점을 슬라이드로 만드시길 권합니다.

첫째, 데이터 주권 이슈. Atlas Cloud처럼 미국·유럽 호스팅 프로바이더에서 오픈웨이트를 돌리면 이 축은 대부분 방어됩니다. 국내에서는 국내 GPU 클러스터를 임차해 자체 인퍼런스를 돌리는 옵션도 존재해요. 도입 전 프로바이더의 데이터 처리 정책과 로그 보관 정책을 반드시 문서화하세요.

둘째, 품질 편차 감내 범위. Vercel에서 GLM 5.2가 첫 주 27배 성장한 이유는 프론트엔드 에이전트 워크로드에서 품질이 Opus 4.8과 근접하기 때문입니다. 다만 도메인·태스크에 따라 편차는 있어요. Lindy 매뉴얼의 2단계(오프라인 이발)는 이 편차를 정량화하는 필수 절차입니다. 회귀 테스트 세트를 먼저 만들지 않으면 도입 후 판단할 근거가 사라집니다.

셋째, 비용 절감 효과 정량화. Lindy는 90% 인퍼런스 비용 감소를 확인했습니다. 팀에 그대로 적용될 수치는 아니지만, 프론티어 API 대비 최소 5배 이상의 격차는 여러 벤치와 실측에서 일관되게 관찰돼요. 도입 후 1개월 청구서 비교로 정량화 가능합니다.

왜 지금 밀려오나 — 세 축 정리

중국 오픈웨이트의 밀림은 우연이 아니라 세 축이 같은 방향으로 정렬된 결과입니다.

1. 비용 축: 프론티어 API 대비 5~9배 저렴, 오픈웨이트니 마진 압박 없음
2. 접근성 축: OpenRouter·Atlas Cloud 같은 라우터·호스팅 프로바이더가 미국·유럽에서 곧바로 배포
3. 품질 축: GLM 5.2가 Vercel 트래픽 27배 성장을 낸 건 벤치 근접 + 실사용 만족의 결과

지난주 Z.ai가 GLM-5.2 전용 IDE ZCode를 낸 것도 같은 흐름의 일부입니다. 프론티어 랩만 볼 게 아니라, 어떤 오픈웨이트가 어떤 워크로드에서 실전에 붙는지를 팀 안에서 정기적으로 갱신하시는 게 좋아요.

FAQ

Q. 국내 팀도 지금 도입해야 할까요?
A. 전면 이관보다 파일럿 워크로드 하나부터 시작하시길 권합니다. Lindy가 매니지드-에이전트 트래픽부터 시작한 이유가 있어요. 백오피스·비고객 대면 워크로드가 첫 후보입니다.

Q. Claude·GPT를 완전히 대체할 수 있나요?
A. 아직은 아닙니다. Lindy도 고지능 경로에는 Claude/Sonnet를 남겨뒀어요. 워크로드 특성별 라우팅(단순 반복은 오픈웨이트, 복잡 추론은 프론티어)이 현실적 조합입니다.

Q. 이관 리스크 중 가장 큰 건 뭘까요?
A. 프롬프트가 특정 모델의 응답 스타일에 과적합돼 있을 때입니다. Claude 스타일 프롬프트를 그대로 DeepSeek에 태우면 품질이 크게 떨어져요. Lindy 매뉴얼 1단계(프롬프트 재설계)를 건너뛰지 마세요.

중국 모델은 이제 '실험'이 아니라 '이미 프로덕션 트래픽의 절반 가까이를 처리하는 옵션'입니다. OpenRouter의 46%는 우리에게 남은 시간이 얼마나 짧은지 알려주는 지표예요. 팀 안에서 아직 파일럿조차 안 돌렸다면, 이번 주가 그 시작점이 되어도 늦지 않습니다.