AI 칩 스타트업 에치드, 130억 달러 가치 달성
AI 반도체 스타트업 에치드(Etched)가 세쿼이아와 SK하이닉스 등 대형 투자자들로부터 시리즈 C 3억 달러를 유치하며 약 10조 원(103억 달러)의 기업가치를 달성했습니다. 이 회사는 트랜스포머 기반 AI 모델 처리에 최적화된 자체 칩과 시스템을 성공적으로 개발 및 테스트 중이며, 이미 10억 달러 규모의 주문을 확보해 NVIDIA 독점 시장에 유의미한 대안으로 떠올랐다는 점에서 중요합니다.
공동 창립자이자 최고 운영 책임자(COO)인 로버트 와첸(Robert Wachen)는 테크크런치(TechCrunch)에 2022년 하버드대를 중퇴한 세 명의 창업자가 세운 AI 반도체 스타트업 에치드(Etched)가 103억 달러(약 13조 9,000억 원)의 기업가치로 3억 달러 규모의 시리즈 C 투자를 마쳤다고 밝혔다.
이번 투자 라운드는 세쿼이아(Sequoia)가 리드했으며, 안드레센 호로위츠(Andreessen Horowitz), SK하이닉스, 제인 스트리트(Jane Street), 디퓨전 캐피탈(Diffusion Capital) 및 기존 투자자들이 동참했다. 피터 틸(Peter Thiel), 안드레이 카파시(Andrej Karpathy), 딜런 필드(Dylan Field), 암자드 마사드(Amjad Masad) 등 유명 인사들 또한 이 회사의 투자자 명단에 포함되어 있다. 에치드는 지난해 12월 5억 달러를 유치하며 기업가치가 50억 달러로 평가되었는데, 약 7개월 만에 기업가치가 두 배로 뛰어오른 셈이다. 회사 측은 이번 평가액이 세쿼이아가 리드한 시리즈 C 투자 중 역대 최고치라고 밝혔다.
에치드는 지난달 자체 칩을 성공적으로 제작했고, 첫 완제 시스템이 고객사에서 테스트되고 있으며, 이미 10억 달러 규모의 주문이 확보되었다고 발표했다. 에치드가 출시되던 시기, 트랜스포머(Transformer, ChatGPT 및 Claude를 비롯한 대부분의 현대 AI 시스템의 기반이 되는 아키텍처) 기술 기반의 AI 모델을 위해 전용 칩을 만든다는 아이디어는 터무니없거나 튀는 생각으로 여겨지곤 했다.
이 회사는 여전히 자사 제품(단순 칩이 아닌 완전한 시스템 형태로 판매됨)이 특정 대형 언어 모델(LLM)만 구동하도록 설계된 칩을 사용한다는 인식과 싸우고 있다. 와첸은 이는 사실이 아니라고 반박한다. 이 시스템은 딥시크(DeepSeek)나 큐웬(Qwen)과 같은 전문가 혼합(Mixture of Experts) 모델(하나의 거대한 모델에 의존하는 대신 작업을 전문화된 하위 모델에 분산시키는 아키텍처)은 물론, 상태 공간 모델(state-space model)로 알려진 다른 기반 아키텍처를 기반으로 구축된 논트랜스포머(Non-transformer) 설계인 맘바(Mamba) 등 모든 AI 모델을 구동할 수 있다. (흥미롭게도, 성능을 높이기 위해 특정 AI 모델의 일부를 실리콘에 직접 새겨 넣는다는 아이디어는 더 이상 황당한 생각으로 여겨지지 않는다. 구글 역시 제미니(Gemini)용인 '프로즌 v2(Frozen v2)' 칩으로 동일한 개념을 추구하고 있다고 알려졌다.)
그럼에도 불구하고 오늘날 에치드가 자랑하는 성과는 사용자가 프롬프트를 입력한 후 일어나는 연산 과정인 '추론(inference)' 속도를 높이기 위해 두 가지 새로운 구성 요소를 처음부터 새롭게 설계했다는 점이다.
와첸은 "추론은 '프리필(prefill)'과 '디코드(decode)' 두 단계로 이루어진다"며, "'프리필 단계'는 문맥을 포함한 프롬프트를 이해하는 과정으로 수학적, 계산적으로 매우 집약적이다. 반면 '디코드 단계'는 출력 토큰(사용자가 실제로 보는 답변)을 생성하는데, 연산량은 적지만 방대한 양의 메모리가 필요하다"고 설명했다.
에치드는 "기존의 다른 어떤 AI 칩보다 훨씬 낮은 전압으로 구동"되어 속도를 비약적으로 높인 프리필 전용 칩을 개발했다. 와첸은 이를 "저전압 추론(low-voltage inference)"이라 부르며, 전압이 낮을수록 발열이 적어 칩에 더 많은 트랜지스터를 탑재할 수 있다고 덧붙였다. 디코드 과정을 위해 에치드는 새로운 형태의 메모리와 상호 연결 기술인 '클러스터 스케일 메모리(cluster scale memory)'를 개발했다. 이는 "매우 빠르고 짧은 지연 시간으로 수많은 칩을 함께 연결하여 공유 메모리 풀을 사용할 수 있게 해준다"는 것이다. 에치드는 그 결과 초고속 작동은 물론 비용 절감까지 이뤄냈다고 강조한다.
대부분의 기술 업계(엔비디아 제외)가 AI의 특수한 연산 요구 사항을 이해하기 전에 이 스타트업이 문을 열었기 때문에, 창립자인 개빈 우베르티(Gavin Uberti) CEO, 와첸 COO, 크리스 주(Chris Zhu) CTO는 TSMC를 통해 첫 칩을 성공적으로 제작했다고 발표한 이후에도 계속해서 회의론자들의 의심을 받아왔다.
이러한 의심의 상당 부분은 시스템을 접해본 사람이 매우 적다는 점에서 기인한다. 지금까지 접근 권한은 투자자와 초기 고객에게만 제한되었다. 실제로 에치드가 유명 투자자들의 명단을 이끌어낸 방식은 사무실에서 그들에게 비공개 시연을 보여주는 것이었다.
와첸은 "앤스로픽(Anthropic)의 안드레이 카파시, 오픈AI(OpenAI)의 노엄 브라운(Noam Brown), 제프리 힌튼(Geoffrey Hinton)을 비롯해 이번 투자 라운드에 참여한 모든 투자자들은 실제로 이 하드웨어를 사용해 보고 매우 기대에 부풀어 있다"고 전했다.
하지만 랙(Rack) 형태의 시스템이 대량 생산되어 납품될 때까지는 여전히 험난하고 긴 여정이 남아있다. 이 세 명의 창립자가 하버드대를 중퇴하고 에치드를 설립할 당시, 그들은 앞으로 펼쳐질 일들을 전혀 알지 못했다.