메뉴
BL
TechCrunch AI 5일 전

AI 칩 스타트업 에치드, 130억 달러 가치 달성

IMP
8/10
핵심 요약

AI 반도체 스타트업 에치드(Etched)가 세쿼이아와 SK하이닉스 등 대형 투자자들로부터 시리즈 C 3억 달러를 유치하며 약 10조 원(103억 달러)의 기업가치를 달성했습니다. 이 회사는 트랜스포머 기반 AI 모델 처리에 최적화된 자체 칩과 시스템을 성공적으로 개발 및 테스트 중이며, 이미 10억 달러 규모의 주문을 확보해 NVIDIA 독점 시장에 유의미한 대안으로 떠올랐다는 점에서 중요합니다.

번역된 본문

공동 창립자이자 최고 운영 책임자(COO)인 로버트 와첸(Robert Wachen)는 테크크런치(TechCrunch)에 2022년 하버드대를 중퇴한 세 명의 창업자가 세운 AI 반도체 스타트업 에치드(Etched)가 103억 달러(약 13조 9,000억 원)의 기업가치로 3억 달러 규모의 시리즈 C 투자를 마쳤다고 밝혔다.

이번 투자 라운드는 세쿼이아(Sequoia)가 리드했으며, 안드레센 호로위츠(Andreessen Horowitz), SK하이닉스, 제인 스트리트(Jane Street), 디퓨전 캐피탈(Diffusion Capital) 및 기존 투자자들이 동참했다. 피터 틸(Peter Thiel), 안드레이 카파시(Andrej Karpathy), 딜런 필드(Dylan Field), 암자드 마사드(Amjad Masad) 등 유명 인사들 또한 이 회사의 투자자 명단에 포함되어 있다. 에치드는 지난해 12월 5억 달러를 유치하며 기업가치가 50억 달러로 평가되었는데, 약 7개월 만에 기업가치가 두 배로 뛰어오른 셈이다. 회사 측은 이번 평가액이 세쿼이아가 리드한 시리즈 C 투자 중 역대 최고치라고 밝혔다.

에치드는 지난달 자체 칩을 성공적으로 제작했고, 첫 완제 시스템이 고객사에서 테스트되고 있으며, 이미 10억 달러 규모의 주문이 확보되었다고 발표했다. 에치드가 출시되던 시기, 트랜스포머(Transformer, ChatGPT 및 Claude를 비롯한 대부분의 현대 AI 시스템의 기반이 되는 아키텍처) 기술 기반의 AI 모델을 위해 전용 칩을 만든다는 아이디어는 터무니없거나 튀는 생각으로 여겨지곤 했다.

이 회사는 여전히 자사 제품(단순 칩이 아닌 완전한 시스템 형태로 판매됨)이 특정 대형 언어 모델(LLM)만 구동하도록 설계된 칩을 사용한다는 인식과 싸우고 있다. 와첸은 이는 사실이 아니라고 반박한다. 이 시스템은 딥시크(DeepSeek)나 큐웬(Qwen)과 같은 전문가 혼합(Mixture of Experts) 모델(하나의 거대한 모델에 의존하는 대신 작업을 전문화된 하위 모델에 분산시키는 아키텍처)은 물론, 상태 공간 모델(state-space model)로 알려진 다른 기반 아키텍처를 기반으로 구축된 논트랜스포머(Non-transformer) 설계인 맘바(Mamba) 등 모든 AI 모델을 구동할 수 있다. (흥미롭게도, 성능을 높이기 위해 특정 AI 모델의 일부를 실리콘에 직접 새겨 넣는다는 아이디어는 더 이상 황당한 생각으로 여겨지지 않는다. 구글 역시 제미니(Gemini)용인 '프로즌 v2(Frozen v2)' 칩으로 동일한 개념을 추구하고 있다고 알려졌다.)

그럼에도 불구하고 오늘날 에치드가 자랑하는 성과는 사용자가 프롬프트를 입력한 후 일어나는 연산 과정인 '추론(inference)' 속도를 높이기 위해 두 가지 새로운 구성 요소를 처음부터 새롭게 설계했다는 점이다.

와첸은 "추론은 '프리필(prefill)'과 '디코드(decode)' 두 단계로 이루어진다"며, "'프리필 단계'는 문맥을 포함한 프롬프트를 이해하는 과정으로 수학적, 계산적으로 매우 집약적이다. 반면 '디코드 단계'는 출력 토큰(사용자가 실제로 보는 답변)을 생성하는데, 연산량은 적지만 방대한 양의 메모리가 필요하다"고 설명했다.

에치드는 "기존의 다른 어떤 AI 칩보다 훨씬 낮은 전압으로 구동"되어 속도를 비약적으로 높인 프리필 전용 칩을 개발했다. 와첸은 이를 "저전압 추론(low-voltage inference)"이라 부르며, 전압이 낮을수록 발열이 적어 칩에 더 많은 트랜지스터를 탑재할 수 있다고 덧붙였다. 디코드 과정을 위해 에치드는 새로운 형태의 메모리와 상호 연결 기술인 '클러스터 스케일 메모리(cluster scale memory)'를 개발했다. 이는 "매우 빠르고 짧은 지연 시간으로 수많은 칩을 함께 연결하여 공유 메모리 풀을 사용할 수 있게 해준다"는 것이다. 에치드는 그 결과 초고속 작동은 물론 비용 절감까지 이뤄냈다고 강조한다.

대부분의 기술 업계(엔비디아 제외)가 AI의 특수한 연산 요구 사항을 이해하기 전에 이 스타트업이 문을 열었기 때문에, 창립자인 개빈 우베르티(Gavin Uberti) CEO, 와첸 COO, 크리스 주(Chris Zhu) CTO는 TSMC를 통해 첫 칩을 성공적으로 제작했다고 발표한 이후에도 계속해서 회의론자들의 의심을 받아왔다.

이러한 의심의 상당 부분은 시스템을 접해본 사람이 매우 적다는 점에서 기인한다. 지금까지 접근 권한은 투자자와 초기 고객에게만 제한되었다. 실제로 에치드가 유명 투자자들의 명단을 이끌어낸 방식은 사무실에서 그들에게 비공개 시연을 보여주는 것이었다.

와첸은 "앤스로픽(Anthropic)의 안드레이 카파시, 오픈AI(OpenAI)의 노엄 브라운(Noam Brown), 제프리 힌튼(Geoffrey Hinton)을 비롯해 이번 투자 라운드에 참여한 모든 투자자들은 실제로 이 하드웨어를 사용해 보고 매우 기대에 부풀어 있다"고 전했다.

하지만 랙(Rack) 형태의 시스템이 대량 생산되어 납품될 때까지는 여전히 험난하고 긴 여정이 남아있다. 이 세 명의 창립자가 하버드대를 중퇴하고 에치드를 설립할 당시, 그들은 앞으로 펼쳐질 일들을 전혀 알지 못했다.

원문 보기
원문 보기 (영어)
Etched, the AI chip startup founded by three Harvard dropouts in 2022, has closed a $300 million Series C funding round at a $10.3 billion valuation, co-founder and COO Robert Wachen tells TechCrunch. The round was led by Sequoia, with Andreessen Horowitz, SK Hynix, Jane Street, and Diffusion Capital also participating, along with other, earlier investors. Other backers of the company include names like Peter Thiel, Andrej Karpathy, Dylan Field, Amjad Masad, and more. Etched was previously valued at $5 billion in December when it raised a $500 million round, meaning it has doubled its valuation in about seven months. The company says this is the highest valuation ever for a Sequoia-led Series C. Last month, Etched announced that it had successfully manufactured its homegrown chips , that its first full systems were being tested by clients, and it had already booked $1 billion worth of orders. Etched launched at a time when the idea of building a chip specifically for AI models based on transformer technology (the architecture behind most modern AI systems, including ChatGPT and Claude) was considered wild if not wacky. The company is still battling the perception that its products — which are sold as full systems, not just chips — involve chips designed to run only specific LLMs. That's not the case, Wachen explains. The systems can run any AI model, including Mixture of Experts models like DeepSeek and Qwen — an architecture that splits tasks across specialized sub-models rather than relying on one large model — as well as non-transformer designs like Mamba, which is built on a different underlying architecture known as a state-space model. (Interestingly, the idea of etching parts of a specific AI model directly into silicon to boost performance isn't considered far-fetched anymore. Google is reportedly pursuing the same concept with its Frozen v2 chip for Gemini.) Still, Etched’s claim to fame today is that it designed two new components from scratch to speed up inference — the computing process that happens after a user submits a prompt. “Inference is built in two stages,” Wachen says, “prefill and decode.” The “prefill phase” involves understanding the prompt, including context. It’s mathematically and compute-intensive. The “decode” phase generates the output tokens (the actual answer the user sees). It requires less computation but needs massive amounts of memory. Etched created a prefill chip that operates “dramatically” faster, he promises, “by running at a much lower voltage than any other AI chip. We call this low-voltage inference.” Lower voltage generates less heat, which allows the chip to pack in more transistors. For the decode process, Etched created a new type of memory and "interconnect technology that we call cluster scale memory. It allows many chips to connect together and use a shared memory pool at a very, very fast, low latency," he says. The result, Etched promises, is high speeds but lower costs. Because the startup was launched before most of the tech world (besides Nvidia) understood AI’s specialized compute needs, the founders, CEO Gavin Uberti, Wachen and CTO Chris Zhu, have faced plenty of skeptics who kept doubting even after announcing the company announced that its first batch of silicon had been successfully manufactured by TSMC. Much of that comes from how few people have had access to the systems. So far, access has been limited to investors and early customers. In fact, that's how Etched landed its list of famous investors in the first place — by showing them private demos in its office. “Andrej Karpathy from Anthropic, Noam Brown from OpenAI, Geoffrey Hinton, as well as all the investors in the funding round — these are all people who actually tried the hardware and are very excited about it,” Wachen says. Still, it’s been a long, difficult road with more to go until the rack systems are mass produced and delivered. The trio famously dropped out of Harvard to launch Etched, not knowing then how to raise cash (much less the loads of it they would need) or how to hire. “We had no idea how hard it was going to be,” he said. “I think we still have to be humbled by what it will take to actually get to scale.” Wachen remembers landing in the Bay Area after telling his parents he was leaving school to do a startup, with no office or apartment arranged. He slept on the floor of a friend’s unfurnished house. “I remember staying in my friend's house that they were about to sell, using a towel as a blanket,” he laughs. The founders eventually set up the servers they needed to run the chip-design tools in the garage of an early employee and “every time it needed to be rebooted, he would call his wife, and she would go and hit the reboot button.” Today, there are 400 people bustling in an office, and Etched operates a 2 megawatt data center. “We're running tokens in our in our lab today, working with some of the largest AI companies in the world,” he says. Wachen also has a blanket now, and a mattress “and a pillow even. Multiple pillows,” he jokes. More importantly, he and his co-founders never let the doubters stop them. “It's come a long way. It's a very, very different world. But I think, when you really think something's possible, and you just work at it for a long time, you can do it.” Topics AI , AI chips , etched , Hardware , Startups , TC When you purchase through links in our articles, we may earn a small commission . This doesn’t affect our editorial independence. Julie Bort Venture Editor Julie Bort is the Startups/Venture Desk editor for TechCrunch. You can contact or verify outreach from Julie by emailing julie.bort@techcrunch.com or via @Julie188 on X. View Bio October 13 - 15 San Francisco Scale faster. Grow your portfolio. Gain practical expertise. No matter your goal, Disrupt can empower you. Save up to $330 toda y! REGISTER NOW Most Popular OpenAI says Hugging Face was breached by its pre-release models Russell Brandom Jack Dorsey is taking on Slack with Buzz, a group chat platform for teams and their AI agents Amanda Silberling Light made a flip phone — it's colorful and it's cheap Amanda Silberling AI music generator Suno breach affects 55M users, per Have I Been Pwned Zack Whittaker Anthropic's landmark $1.5B copyright settlement is approved Kirsten Korosec Google is working on a new AI chip designed to make Gemini more efficient Lucas Ropek Judge pauses $110B Paramount-Warner Bros. merger Aisha Malik