퍼플렉시티, 로컬과 클라우드 자동 판독 하이브리드 AI 공개
퍼플렉시티(Perplexity)가 사용자 기기에서 구동되는 로컬 AI 모델과 강력한 클라우드 모델을 결합하여, 작업 성격에 따라 처리 위치를 자동으로 결정하는 하이브리드 추론 시스템을 발표했습니다. 민감한 개인정보는 로컬에서 안전하게 처리하고 복잡한 연산이 필요한 작업은 클라우드로 분산시켜 정확성, 프라이버시, 에너지 효율성을 동시에 최적화하는 것이 이번 시스템의 핵심입니다.
퍼플렉시티(Perplexity)가 자체 컴퓨터에서 구동되는 AI 모델과 강력한 클라우드 모델을 결합하여, 어떤 작업을 어디서 처리할지 자동으로 결정하는 오케스트레이터(orchestrator)를 발표했습니다. 이 시스템의 목표는 정확성, 개인정보 보호, 에너지 효율성을 동시에 최적화하는 것입니다. 이 하이브리드 추론(hybrid inference) 시스템은 오는 7월부터 3월에 도입된 상시 작동 에이전트(Always-on agent) 제품인 '퍼스널 컴퓨터(Personal Computer)'에 통합될 예정입니다. 재무 문서나 건강 정보와 같은 민감한 데이터는 로컬 기기에 그대로 남아있게 되며, 계산 집약적인 작업은 클라우드 모델로 라우팅됩니다.
퍼플렉시티는 인텔(Intel)과 함께 이 시스템을 선보였습니다. 하지만 이 모델 독립적(model-agnostic) 프레임워크는 엔비디아(Nvidia)의 RTX Spark와 같은 다른 하드웨어에서도 작동합니다. 공지사항에서는 "로컬 컴퓨팅을 향한 경쟁이 시작되었다"고 밝혔습니다. 퍼플렉시티에 따르면, 일상적인 작업을 로컬 기기로 이전하면 중앙 집중식 컴퓨팅 인프라에 대한 필요성을 줄이고 데이터 주권(data sovereignty)과 관련된 문제를 단순화할 수 있습니다.
이 회사는 자사의 비즈니스 모델이 높은 컴퓨팅 소비가 아닌 '정확한 답변'에 보상하는 구조이기 때문에, 효율성 최적화는 비즈니스적인 측면에서도 자연스러운 인센티브가 된다고 설명했습니다.