메뉴
HN
Hacker News 3일 전

오픈웨이트 AI, 쿠버네티스의 시대를 열다

IMP
8/10
핵심 요약

오픈웨이트(Open-weight) AI 모델이 과거 쿠버네티스(Kubernetes)가 클라우드 생태계의 표준으로 자리 잡았던 것처럼 차세대 AI 생태계의 핵심 기반으로 빠르게 부상하고 있습니다. 개발자들은 이러한 모델을 바탕으로 자체 인프라에 최적화하고 파생된 혁신을 만들어내며, 단일 벤더가 따라갈 수 없는 거대한 혁신 생태계를 구축하고 있습니다. 저자는 미국이 이 개방형 생태계의 흐름에 동참하고 경쟁해야 하며, 인위적인 보호주의로 고립을 자초해서는 안 된다고 강조합니다.

번역된 본문

오픈웨이트(Open-weight) 모델은 차세대 AI 생태계의 기반이 되고 있습니다. 미국은 이 생태계에서 경쟁해야 하며, 스스로를 고립시켜서는 안 됩니다. 저는 이와 비슷한 상황을 과거에 본 적이 있습니다. 2013년, 저는 오픈소스 클라우드 네이티브 소프트웨어 기업인 메소스피어(Mesosphere)를 공동 창업했습니다. 우리는 공동 창업자인 벤 힌드만(Ben Hindman)이 UC 버클리에서 개발에 참여했던 아파치 메소스(Apache Mesos)를 기반으로 구축했습니다. 이후 메소스를 중심으로 DC/OS(데이터센터 운영체제)를 개발하여 오픈소스로 공개했고, 엔터프라이즈 지원 및 독점 기능을 포함한 엔터프라이즈 에디션을 통해 상용화했습니다.

수년간 폭발적인 성장을 이룬 후, 우리는 쿠버네티스(Kubernetes)의 등장에 큰 타격을 입었습니다. 쿠버네티스는 더 최신 기술이었고 완전한 오픈소스였기에, 빠르게 클라우드 네이티브 커뮤니티를 결집시켰습니다. 전 세계 최고의 분산 시스템 및 인프라 엔지니어들이 쿠버네티스에 자신의 커리어를 걸었고, 우리의 가장 충성스러웠던 커뮤니티 멤버들조차 결국 쿠버네티스로 향했습니다.

이런 일이 발생하자 혁신의 무게 중심이 쿠버네티스로 완전히 넘어갔습니다. 플랫폼에 부족한 무언가가 있다면 누군가 즉시 네트워킹, 스토리지, 관측 가능성(Observability), 배포 도구, 정책 엔진 등을 구축하기 시작했습니다. 수많은 스타트업이 탄생했고 기존의 대형 벤더들도 합류했습니다. 프로덕션 환경에서 쿠버네티스를 실행하는 데 필요한 거의 모든 구성 요소가 오픈소스로 제공되었습니다. 이후 클라우드 제공업체와 메소스피어/D2iQ, 랜처(Rancher), 레드햇(Red Hat), 너탄시스(Nutanix)를 포함한 기업들은 통합, 엔터프라이즈 기능, 지원 및 운영 분야를 중심으로 비즈니스를 구축했습니다.

쿠버네티스는 단순히 코드 저장소가 공개되어 있었기 때문에 승리한 것이 아닙니다. 엔지니어, 클라우드 제공업체, 엔터프라이즈 벤더가 모두 고객의 요구에 맞게 확장할 수 있는 '중립적인 기반'이 되었기 때문입니다. 공통된 인터페이스와 벤더 중립적인 거버넌스는 모두가 안심하고 이를 기반으로 무언가를 구축할 수 있다는 확신을 주었습니다. 제가 깨달은 교훈은 '오픈소스가 항상 이긴다'가 아니었습니다. 그것은 '사람들이 자유롭게 맞춤화할 수 있는 개방형 플랫폼이 산업의 중심이 되면, 어떤 단일 벤더도 그 주변에서 발생하는 결합된 혁신의 속도를 따라갈 수 없다'는 것이었습니다.

저는 AI가 바로 그 시점에 다다르고 있다고 생각합니다.

오픈 웨이트가 모델을 플랫폼으로 바꾼다

우선 용어 정리가 필요합니다. 우리가 흔히 '오픈소스'라고 부르는 대부분의 모델은 더 정확히 '오픈웨이트(Open-weight)'라고 부르는 것이 맞습니다. 학습된 파라미터를 다운로드하고 수정할 수는 있지만, 학습 데이터나 전체 학습 과정은 일반적으로 공개되지 않기 때문입니다. 이는 오픈소스 이니셔티브(OSI)가 정의한 오픈소스 AI의 기준에는 미치지 못합니다. 이러한 구분은 중요합니다. 하지만 이것이 사람들이 다운로드하여 실행하고 수정할 수 있는 산출물 주변에 생태계가 형성되는 것을 막지는 못합니다.

쿠버네티스와의 비유가 완벽하지는 않습니다. 쿠버네티스 기여자들은 실제 소스 코드를 검사하고 변경할 수 있었으며, 개선 사항을 공유된 업스트림 프로젝트에 다시 반영할 수 있었습니다. 모델 파인튜닝(Fine-tuning)은 보통 그런 식으로 작동하지 않습니다. 최신 가중치(weights)는 다운로드할 수 있지만 여전히 비싼 하드웨어가 필요하며, 중립적인 거버넌스와 공통 인터페이스를 제공하는 CNCF(Cloud Native Computing Foundation)와 같은 AI 분야의 표준 기구도 아직 없습니다. 이는 분명히 다른 점입니다.

하지만 두 분야의 공통된 메커니즘은, '충분히 유능하고 이식 가능한 기반 환경은 최초 창작자가 단독으로 구축할 수 있는 것보다 훨씬 더 큰 규모의 보완적 혁신을 끌어당긴다'는 것입니다.

오픈웨이트 모델을 사용했던 첫 번째 이유는 '셀프 호스팅(Self-hosting)' 때문이었습니다. 기업들은 자신들의 데이터를 통제하기를 원했습니다. 자체 클라우드나 데이터센터에서 모델을 실행하기를 원했습니다. 그리고 사용량과 추론 비용이 증가하면서, 비용에 대한 통제권을 갖기를 원하게 되었습니다. 이러한 수요 덕분에 vLLM, SGLang, llama.cpp, Ollama, MLX 등 건강한 오픈소스 서빙 스택이 탄생했습니다.

하지만 셀프 호스팅은 시작에 불과합니다. 오픈웨이트는 모델 자체를 개발자가 수정하고 재배포할 수 있는 무언가로 바꿉니다. 현재 허깅 페이스(Hugging Face)는 200만 개 이상의 공개 모델을 호스팅하고 있습니다. 큐원(Qwen)이나 젬마(Gemma) 같은 인기 모델 계열을 중심으로 개발자들은 다음과 같은 결과물들을 만들어내고 있습니다:

  • 다양한 하드웨어(실리콘) 아키텍처와 규모에 맞춘 양자화 및 변환된 가중치
  • 코딩, 의학, 법률, 수학 및 에이전트 워크플로우를 위한 파인튜닝 및 LoRA 어댑터
  • 서로 다른 파인튜닝을 결합한 모델 머지(Model merges)
  • TensorRT-LLM, vLLM, MLX 등 다양한 런타임에 대한 최적화 및 적용

최근까지...

원문 보기
원문 보기 (영어)
Open-weight models are becoming the foundation for the next AI ecosystem. The US should compete in it, not wall itself off. I have seen a version of this story before. In 2013 I co-founded Mesosphere, an open source cloud-native software company. We built on Apache Mesos, which my co-founder Ben Hindman had helped create at UC Berkeley. We later built DC/OS (Data Center Operating System) around Mesos, released it as open source, and commercialized it through an enterprise distribution with support and proprietary features. After several years of massive growth, Kubernetes disrupted us. It was newer, fully open source, and it quickly galvanized the cloud-native community. Many of the world’s best distributed-systems and infrastructure engineers bet their careers on it, and even some of our most loyal community members changed horses. Once that happened, innovation moved to Kubernetes. Whatever the platform was missing, someone started building: networking, storage, observability, deployment tools, policy engines. A large number of startups were created, and legacy vendors joined in as well. Almost every component required to run Kubernetes in production became available as open source. Cloud providers and companies including Mesosphere/D2iQ, Rancher, Red Hat and Nutanix then built businesses around integration, enterprise features, support and operations. Kubernetes did not win simply because its repository was public. It became a neutral substrate that engineers, cloud providers and enterprise vendors could all extend to fit their customers’ needs. Common interfaces and vendor-neutral governance gave everyone confidence that they could build on it. The lesson I took away wasn’t that open source always wins. It was that once an open platform that people can customize becomes the industry’s center of gravity, no single vendor can match the combined rate of innovation around it. I think AI is approaching the same point. Open weights turn a model into a platform First, a terminology note. Most models we casually call “open source” are more accurately described as open-weight . You can download and modify the trained parameters, but the training data and complete training process usually aren’t available. That falls short of the Open Source Initiative’s definition of open source AI . The distinction matters. It doesn’t, however, prevent an ecosystem from forming around the artifact people can run and modify. The Kubernetes analogy isn’t perfect. Kubernetes contributors could inspect and change the actual source, and improvements could flow back into a shared upstream project. Model fine-tunes usually don’t work that way. Frontier weights may be downloadable but still require expensive hardware, and there is no AI equivalent of the CNCF providing neutral governance and common interfaces. Those are real differences. The common mechanism is that a sufficiently capable, portable substrate can attract complementary innovation far beyond what its original creator could build alone. The first reason to use open-weight models was self-hosting. Companies wanted control over their data. They wanted to run models in their own cloud or data center. And as usage and inference costs grow, they increasingly want control over cost as well. That demand produced a healthy open source serving stack: vLLM, SGLang, llama.cpp, Ollama, MLX and others. But self-hosting is only the beginning. Open weights turn the model itself into something developers can adapt and redistribute. Hugging Face now hosts more than two million public models . Around popular families such as Qwen and Gemma, developers produce: quantized and converted weights for different silicon architectures and scale; fine-tunes and LoRA adapters for coding, medicine, law, math and agentic workflows; model merges that combine different fine-tunes; adaptations for runtimes such as TensorRT-LLM, vLLM, MLX and others. Until recently, it was easy to dismiss this activity at the frontier. Open models were useful, but the base models weren’t good enough for the hardest coding and agentic tasks. That gap is narrowing quickly. Z.ai has released GLM-5.2 with public weights under an MIT license. Its own evaluation reports 62.1% on SWE-bench Pro versus 58.6% for GPT-5.5, although results vary across benchmarks and agent harnesses. Moonshot says Kimi K3 approaches the closed frontier on long-horizon coding and has promised to publish its weights on July 27. Artificial Analysis supports the performance claim, scoring it alongside Opus 4.8 and GPT-5.5 in its independent evaluation. Once the base model is good enough, the ecosystem can compound. I expect new projects around agent runtimes, coding harnesses, sandboxes, evaluations, observability and specialized fine-tunes. Together they can become a production-grade stack: an open-weight model running on open source software, customizable for a team’s workload, hardware and economics. Will that stack beat every closed model on every benchmark? Probably not. But I would not bet on any single vendor out-innovating the combined open ecosystem over time. Frontier technology is a talent war, and open ecosystems give talented people everywhere a reason to build on the same foundation. Banning Chinese models would be an own goal This brings us to the current debate in Washington. After the release of Kimi K3 and other capable Chinese models, the Trump administration is reportedly considering restrictions on Chinese open-weight models. The exact form of a potential ban remains unclear. A broad ban on American researchers and companies using Chinese open-weight models would do something else entirely. It would cut the US off from an ecosystem that is already attracting many of the world’s best AI researchers and engineers, including a large number of Chinese researchers. The rest of the world would keep building. American developers would be the ones locked out. We’ve seen this dynamic with Qwen already. Hugging Face reports that Chinese models accounted for 41% of model downloads over the past year. If the best open-weight foundation models increasingly come from China, innovation will accumulate around them in the same way it accumulated around Kubernetes. How the US should compete The US should compete in that ecosystem, not retreat from it. Release frontier-grade American models American labs need to release frontier-grade open-weight models under licenses that startups can actually build on. There has been progress. NVIDIA’s Nemotron models are commercially usable under NVIDIA’s own permissive license. Thinking Machines released Inkling under Apache 2.0, as did OpenAI with gpt-oss and Google with Gemma 4 . But OpenAI’s and Google’s strongest models remain closed, as do those from most American frontier labs. Use procurement to create an open market The government should use procurement to create demand for portable, interoperable systems rather than permanent dependence on one API vendor. The Department of Defense has done this before. Platform One provides open source tools and enterprise products that different military programs can build on. The same playbook can accelerate innovation around open-weight models. Build the rest of the stack American companies need to build the rest of the stack. Startups can customize and extend the models, embed them into products, and provide the serving, tooling, support and operational layers. Our leading silicon companies will keep improving the hardware. Hyperscalers and neoclouds can serve the models and their ecosystems. Set standards instead of banning models Safety is the strongest argument for restrictions, but a blanket ban is too blunt and would sacrifice access to the entire ecosystem. A better approach is independent testing and standards for frontier models. The analogy isn’t exact: Kubernetes conformance tests co