에칭드, 한 달 만에 기업가치 2배 급등해 210억 달러
AI 추론 전용 칩 스타트업 에칭드(Etched)가 제인 스트리트(Jane Street) 주도로 7억 달러를 추가 유치하며 기업가치가 한 달 만에 103억 달러에서 210억 달러로 두 배 급등했다. 에칭드는 저전압 프리필(prefill) 칩과 클러스터 규모 공유 메모리 등을 직접 설계해 AI 추론 속도를 높이고 비용을 낮추는 것이 강점이다.
에칭드(Etched)는 화요일, 유명 퀀트 펀드인 제인 스트리트(Jane Street)가 이 스타트업의 AI 하드웨어를 직접 테스트하고 구매한 끝에 주도한 투자로, 210억 달러의 기업가치로 7억 달러를 추가 유출했다고 발표했다. AI 업계 기준으로도 이번 밸류에이션 상승 속도는 놀라울 정도로 빠르다. 에칭드의 기업가치는 12월에 50억 달러였고, 7월에는 103억 달러의 밸류에이션으로 3억 달러의 시리즈 C 투자를 유치했다. 이제 투자자들은 불과 한 달 만에 그 가치를 약 110억 달러 끌어올리며 210억 달러로 두 배 만들었다.
에칭드는 자사의 AI 기술을 '프론티어 추론 클러스터(frontier inference clusters)'라 부르는 완전한 시스템 형태로 제공한다. (경쟁사 엔비디아는 자사의 통합 시스템을 'AI 팩토리'라고 부른다.) 공동 창립자이자 COO인 로버트 와첸(Robert Wachen)은 투자자들이 열광하는 이유는 에칭드가 추론(inference) 속도를 높이기 위해 두 가지 새로운 구성 요소를 처음부터 직접 설계했기 때문이라고 테크크런치에 말했다. 추론이란 사용자가 프롬프트를 입력한 후에 일어나는 연산 과정이다.
와첸은 "추론은 프리필(prefill)과 디코드(decode)라는 두 단계로 이루어진다"고 설명했다. 수학적·연산 집약적인 '프리필 단계'에서 시스템은 문맥을 포함한 프롬프트를 이해해야 한다. 메모리 집약적인 '디코드 단계'에서 시스템은 출력 토큰, 즉 사용자가 실제로 보게 되는 답변을 생성한다.
에칭드는 저전압으로 동작하는 프리필 칩을 개발했는데, 이를 통해 다른 고급 AI 칩에서 흔히 발생하는 발열 문제 없이 더 많은 트랜지스터를 집적할 수 있다. 덕분에 더 많은 토큰을 더 빠르게 처리할 수 있다. 또한 에칭드는 디코드 과정을 위해 새로운 형태의 메모리와 인터커넥트를 개발했으며, 회사는 이를 '클러스터 규모 메모리(cluster-scale memory)'라고 부른다. 와첸은 "이를 통해 많은 칩이 서로 연결되어 매우 빠르고 짧은 지연 시간으로 공유 메모리 풀을 사용할 수 있다"고 말했다. 그 결과로 에칭드는 더 높은 속도와 더 낮은 비용을 약속한다.
에칭드는 초기부터 따라다녔던 인식과 싸우고 있다. 즉, 특정 모델을 칩에 '각인(etched)'한다는 것, 다시 말해 각 칩이 하나의 프론티어 모델만 실행하도록 맞춤 설계되어 있다는 인식이다. 이는 원래의 의도였지만 더 이상 사실이 아니다. 에칭드의 시스템은 모든 프론티어 모델을 실행할 수 있다.
새로운 투자 라운드를 알리는 블로그 포스트에서 투자사 제인 스트리트는 "우리는 칩을 테스트했고 초기 결과에 만족한다. 에칭드의 독특한 추론 방식은 가장 까다로운 워크로드를 지원하는 데 필요한 정밀도를 제공한다. 이제 우리 데이터센터에 자체 랙이 구축되어 있어 기쁘다"고 밝혔다.
에칭드의 다른 투자자로는 클라이너 퍼킨스(Kleiner Perkins), 세쿼이아 캐피탈(Sequoia Capital), 안드리슨 호로위츠(Andreessen Horowitz), 피터 틸(Peter Thiel), 타이거 글로벌(Tiger Global), 베인 캐피탈 벤처스(Bain Capital Ventures), 네오(Neo), 스트라이프스(Stripes), 프라이머리(Primary), 포지티브 섬(Positive Sum), 디퓨전(Diffusion), 아르고(Argo), 블랙스톤(Blackstone) 등이 있다.