전 데이터브릭스 AI 책임자, AI 전력 소비 1000분의1로 줄인다
데이터브릭스(DataBricks) 출신의 나빈 라오(Naveen Rao)가 이끄는 스타트업 언컨벤셔널 AI(Unconventional AI)가 발진자 기반의 새로운 컴퓨팅 아키텍처를 제안하며, AI 추론(Inference) 시의 전력 소비를 기존 대비 최대 1/1000 수준으로 줄일 수 있다고 주장했습니다. 회사는 이 혁신적인 아키텍처를 적용해 스테이블 디퓨전(Stable Diffusion)과 같은 기존 최고 수준 이미지 생성 모델들과 동등한 성능을 내는 첫 모델 'Un0'를 공개했습니다. AI 확장의 가장 큰 걸림돌로 꼽히는 막대한 전력 소모와 인프라 비용 문제를 근본적으로 해결할 수 있는 파괴적 기술로 평가받습니다.
AI 분야의 차세대 혁신 기술을 찾으려는 열정은 꽤 야심 찬 프로젝트들에 자금을 지원해 왔습니다. 하지만 한 회사는 이를 기회 삼아 컴퓨팅 아키텍처를 처음부터 완전히 다시 구축하고자 합니다. 데이터브릭스(Databricks)의 전 AI 책임자였던 나빈 라오(Naveen Rao)가 이끄는 언컨벤셔널 AI(Unconventional AI)는 AI 추론(Inference) 처리의 전력 효율을 비약적으로 높이겠다는 약속을 내세우고 있습니다. 이들의 비밀 무기는 바로 새로운 형태의 발진자 기반(oscillator-based) 컴퓨터 아키텍처입니다.
지난 목요일, 이 회사는 'Un0'라는 첫 번째 AI 모델을 출시했습니다. 이미지 생성 시스템 도구인 이 모델은 자사의 기술이 기존 AI 시스템을 어떻게 재현할 수 있는지 최초로 보여주는 사례입니다. 함께 발표된 새로운 논문에서 연구팀은 이 새로운 아키텍처의 소프트웨어 시뮬레이션을 사용하여 완벽하게 작동하는 이미지 생성 모델을 어떻게 구축했는지 상세히 설명합니다. 이 시뮬레이션 모델은 현재 최고 수준인 확산 모델(diffusion model)들과 동등한 성능을 보여줍니다.
라오(Rao)는 테크크런치(TechCrunch)와의 인터뷰에서 "이것은 새로운 종류의 컴퓨터에 대한 일종의 '헬로 월드(Hello World)'와 같다"며, "다음 1년 동안 이와 관련해 꽤 흥미로운 소식들을 접하게 될 것"이라고 말했습니다.
새로운 Un0 모델의 결과물은 스테이블 디퓨전(Stable Diffusion)이나 오픈AI(OpenAI)의 DALL-E(GPT Image 1) 같은 기존 이미지 생성 모델과 유사합니다. 가장 인상적인 부분은 이 성능에 도달하는 방식입니다. 이 모델은 기존 컴퓨팅과 전통적인 대형 언어 모델(LLM)을 구동하는 칩과는 완전히 다른 발진자 기반 아키텍처를 기반으로 구축되었습니다. 발진자 기반 컴퓨팅의 장점은 복잡하지만, 라오는 궁극적으로 전력 사용량을 최대 1,000배까지 줄일 수 있을 것으로 확신합니다.
이를 구현하기 위한 인프라의 대부분은 여전히 구축 중에 있습니다. 현재 버전의 Un0는 언컨벤셔널의 발진자 칩에 대한 소프트웨어 시뮬레이션으로 실행되지만, 회사는 조만간 실제 칩에 대한 설계도를 공개할 계획입니다. 이를 시작으로 회사는 인프라 스택 전체를 처음부터 새롭게 구축할 계획이며, 최종적으로는 다른 클라우드 제공업체들처럼 컴퓨팅 용량을 공급하는 것을 목표로 합니다.
라오는 "우리의 칩으로 구성된 새로운 형태의 시스템을 구축할 것"이라며, "해당 시스템에서 AI 모델을 실행할 것이며, 프롬프트가 들어오고 추론 결과가 나가는 네트워크 케이블을 갖추게 될 것입니다. 하지만 기존 대비 1/1000의 전력으로 이 모든 것이 이루어질 것"이라고 설명했습니다.
직원 수가 50명이 채 되지 않는 회사에게 이는 놀라울 정도로 야심 찬 목표입니다. 하지만 현재 AI 인프라 구축의 규모와 계속해서 증가하는 추론 수요를 충족시키기 위해 예상되는 막대한 비용을 고려할 때, 이 프로젝트는 이 거대한 문제의 규모에 걸맞은 몇 안 되는 노력 중 하나일 수 있습니다.
라오의 관점에서 볼 때, 사용 가능한 전력 공급은 향후 몇 년간 AI 산업이 직면한 가장 중요한 한계 중 하나가 될 것이며, 언컨벤셔널 AI는 이를 해결할 수 있는 몇 안 되는 프로젝트입니다. 그는 "AI의 규모 확장은 에너지 문제 때문에 어렵다. 이는 향후 몇 년간 근본적인 한계가 될 것이며, 결코 피해 갈 수 없을 것이다. 결국 이는 에너지에 제한된 문제가 될 것"이라고 덧붙였습니다.