오픈웨이트 AI, 쿠버네티스의 시대를 열다
오픈웨이트(Open-weight) AI 모델이 과거 쿠버네티스(Kubernetes)가 클라우드 생태계의 표준으로 자리 잡았던 것처럼 차세대 AI 생태계의 핵심 기반으로 빠르게 부상하고 있습니다. 개발자들은 이러한 모델을 바탕으로 자체 인프라에 최적화하고 파생된 혁신을 만들어내며, 단일 벤더가 따라갈 수 없는 거대한 혁신 생태계를 구축하고 있습니다. 저자는 미국이 이 개방형 생태계의 흐름에 동참하고 경쟁해야 하며, 인위적인 보호주의로 고립을 자초해서는 안 된다고 강조합니다.
오픈웨이트(Open-weight) 모델은 차세대 AI 생태계의 기반이 되고 있습니다. 미국은 이 생태계에서 경쟁해야 하며, 스스로를 고립시켜서는 안 됩니다. 저는 이와 비슷한 상황을 과거에 본 적이 있습니다. 2013년, 저는 오픈소스 클라우드 네이티브 소프트웨어 기업인 메소스피어(Mesosphere)를 공동 창업했습니다. 우리는 공동 창업자인 벤 힌드만(Ben Hindman)이 UC 버클리에서 개발에 참여했던 아파치 메소스(Apache Mesos)를 기반으로 구축했습니다. 이후 메소스를 중심으로 DC/OS(데이터센터 운영체제)를 개발하여 오픈소스로 공개했고, 엔터프라이즈 지원 및 독점 기능을 포함한 엔터프라이즈 에디션을 통해 상용화했습니다.
수년간 폭발적인 성장을 이룬 후, 우리는 쿠버네티스(Kubernetes)의 등장에 큰 타격을 입었습니다. 쿠버네티스는 더 최신 기술이었고 완전한 오픈소스였기에, 빠르게 클라우드 네이티브 커뮤니티를 결집시켰습니다. 전 세계 최고의 분산 시스템 및 인프라 엔지니어들이 쿠버네티스에 자신의 커리어를 걸었고, 우리의 가장 충성스러웠던 커뮤니티 멤버들조차 결국 쿠버네티스로 향했습니다.
이런 일이 발생하자 혁신의 무게 중심이 쿠버네티스로 완전히 넘어갔습니다. 플랫폼에 부족한 무언가가 있다면 누군가 즉시 네트워킹, 스토리지, 관측 가능성(Observability), 배포 도구, 정책 엔진 등을 구축하기 시작했습니다. 수많은 스타트업이 탄생했고 기존의 대형 벤더들도 합류했습니다. 프로덕션 환경에서 쿠버네티스를 실행하는 데 필요한 거의 모든 구성 요소가 오픈소스로 제공되었습니다. 이후 클라우드 제공업체와 메소스피어/D2iQ, 랜처(Rancher), 레드햇(Red Hat), 너탄시스(Nutanix)를 포함한 기업들은 통합, 엔터프라이즈 기능, 지원 및 운영 분야를 중심으로 비즈니스를 구축했습니다.
쿠버네티스는 단순히 코드 저장소가 공개되어 있었기 때문에 승리한 것이 아닙니다. 엔지니어, 클라우드 제공업체, 엔터프라이즈 벤더가 모두 고객의 요구에 맞게 확장할 수 있는 '중립적인 기반'이 되었기 때문입니다. 공통된 인터페이스와 벤더 중립적인 거버넌스는 모두가 안심하고 이를 기반으로 무언가를 구축할 수 있다는 확신을 주었습니다. 제가 깨달은 교훈은 '오픈소스가 항상 이긴다'가 아니었습니다. 그것은 '사람들이 자유롭게 맞춤화할 수 있는 개방형 플랫폼이 산업의 중심이 되면, 어떤 단일 벤더도 그 주변에서 발생하는 결합된 혁신의 속도를 따라갈 수 없다'는 것이었습니다.
저는 AI가 바로 그 시점에 다다르고 있다고 생각합니다.
오픈 웨이트가 모델을 플랫폼으로 바꾼다
우선 용어 정리가 필요합니다. 우리가 흔히 '오픈소스'라고 부르는 대부분의 모델은 더 정확히 '오픈웨이트(Open-weight)'라고 부르는 것이 맞습니다. 학습된 파라미터를 다운로드하고 수정할 수는 있지만, 학습 데이터나 전체 학습 과정은 일반적으로 공개되지 않기 때문입니다. 이는 오픈소스 이니셔티브(OSI)가 정의한 오픈소스 AI의 기준에는 미치지 못합니다. 이러한 구분은 중요합니다. 하지만 이것이 사람들이 다운로드하여 실행하고 수정할 수 있는 산출물 주변에 생태계가 형성되는 것을 막지는 못합니다.
쿠버네티스와의 비유가 완벽하지는 않습니다. 쿠버네티스 기여자들은 실제 소스 코드를 검사하고 변경할 수 있었으며, 개선 사항을 공유된 업스트림 프로젝트에 다시 반영할 수 있었습니다. 모델 파인튜닝(Fine-tuning)은 보통 그런 식으로 작동하지 않습니다. 최신 가중치(weights)는 다운로드할 수 있지만 여전히 비싼 하드웨어가 필요하며, 중립적인 거버넌스와 공통 인터페이스를 제공하는 CNCF(Cloud Native Computing Foundation)와 같은 AI 분야의 표준 기구도 아직 없습니다. 이는 분명히 다른 점입니다.
하지만 두 분야의 공통된 메커니즘은, '충분히 유능하고 이식 가능한 기반 환경은 최초 창작자가 단독으로 구축할 수 있는 것보다 훨씬 더 큰 규모의 보완적 혁신을 끌어당긴다'는 것입니다.
오픈웨이트 모델을 사용했던 첫 번째 이유는 '셀프 호스팅(Self-hosting)' 때문이었습니다. 기업들은 자신들의 데이터를 통제하기를 원했습니다. 자체 클라우드나 데이터센터에서 모델을 실행하기를 원했습니다. 그리고 사용량과 추론 비용이 증가하면서, 비용에 대한 통제권을 갖기를 원하게 되었습니다. 이러한 수요 덕분에 vLLM, SGLang, llama.cpp, Ollama, MLX 등 건강한 오픈소스 서빙 스택이 탄생했습니다.
하지만 셀프 호스팅은 시작에 불과합니다. 오픈웨이트는 모델 자체를 개발자가 수정하고 재배포할 수 있는 무언가로 바꿉니다. 현재 허깅 페이스(Hugging Face)는 200만 개 이상의 공개 모델을 호스팅하고 있습니다. 큐원(Qwen)이나 젬마(Gemma) 같은 인기 모델 계열을 중심으로 개발자들은 다음과 같은 결과물들을 만들어내고 있습니다:
- 다양한 하드웨어(실리콘) 아키텍처와 규모에 맞춘 양자화 및 변환된 가중치
- 코딩, 의학, 법률, 수학 및 에이전트 워크플로우를 위한 파인튜닝 및 LoRA 어댑터
- 서로 다른 파인튜닝을 결합한 모델 머지(Model merges)
- TensorRT-LLM, vLLM, MLX 등 다양한 런타임에 대한 최적화 및 적용
최근까지...