엔비디아 임원 "AI 연산비, 인건비보다 훨씬 비싸다"
최근 빅테크 기업들이 대규모 투자에도 불구하고 AI 도입 비용이 인건비를 훨씬 상회하고 있어 경제성 논란이 일고 있습니다. MIT 연구에 따르면 현재 기술 수준에서 AI 자동화가 인력보다 비용 효율적인 직무는 23%에 불과한 것으로 나타났습니다. 기업들은 비용 절감보다는 보완재로서 AI를 재평가하며, 단기적인 비용 불균형 속에서도 미래 경쟁력 확보를 위해 막대한 자본을 쏟아붓고 있습니다.
최근 기술 업계의 감원은 인력에서 AI로의 거대한 노동 이동이 이미 시작되었음을 나타내는 것으로 보일 수 있습니다. 메타는 지난주 메모를 통해 워크포스의 10%(약 8,000명)를 해고하고, 6,000개의 채용 예정 자리를 폐지하겠다고 발표했습니다. 이는 "회사를 더 효율적으로 운영하고 우리가 진행하는 다른 투자를 상쇄하기 위한 노력"의 일환이라고 해당 메모는 전했습니다. 마이크로소프트는 수천 명의 직원에게 자발적 퇴직 패키지를 제안했는데, 이는 역대 최대 규모입니다.
하지만 다른 기술 업계 리더들은 현재 AI가 기업의 인건비를 절감해주지 못하고 있으며, 오히려 기존 인력보다 더 많은 비용이 들고 있다고 지적합니다. 엔비디아의 브라이언 카탄자로(Bryan Catanzaro) 딥러닝 애플리이드 VP는 최근 악시오스(Axios)와의 인터뷰에서 "우리 팀의 경우 컴퓨팅 비용이 직원 인건비보다 훨씬 높다"고 밝혔습니다.
2024년 MIT 연구도 카탄자로의 경험을 뒷받침합니다. 연구진이 인간 수준의 업무를 수행하는 데 필요한 AI 모델의 기술적 요구 사항을 분석한 결과, 시각(Vision)이 주된 업무인 직무 중 AI 자동화가 경제성이 있는 경우는 단 23%에 불과했습니다. 나머지 77%의 경우 인간이 계속 일하는 것이 더 저렴한 것으로 나타났습니다. 또 다른 사례에서, 한 엔지니어는 AI 에이전트가 이른바 '과다 사용(Overuse)'으로 인해 자신의 데이터베이스와 네트워크를 파괴했다고 밝히며 AI의 오류 가능성을 증명하기도 했습니다.
AI가 생산성을 향상시킨다는 명확한 증거가 없고 예일 버짓 랩(Yale Budget Lab)에 따르면 일자리를 대체한다는 생각을 뒷받침할 광범위한 데이터도 없음에도 불구하고, 빅테크 기업들은 AI에 계속 자금을 쏟아붓고 있습니다. 모건스탠리에 따르면 올해 들어 AI 관련 자본 지출 7,400억 달러(약 69% 증가)를 발표했습니다.
이러한 막대한 지출 규모로 인해 일부 기업들은 전체 예산을 다시 짜고 있습니다. 우버(Uber)의 프라빈 네팔리 나가(Praveen Neppalli Naga) CTO는 이달 초 더 인포메이션(The Information)과의 인터뷰에서 안스로픽(Anthropic)의 클로드 코드(Claude Code) 같은 AI 코딩 도구로의 전환을 언급하며 "내가 필요할 것이라고 생각했던 예산은 이미 초과되어 처음부터 다시 계획을 짜고 있다"고 말했습니다.
이러한 지출 증가는 기술 부문의 추가 해고와 함께 일어나고 있습니다. Layoffs.fyi의 데이터에 따르면, 2026년 들어 약 100개 기술 기업에서 92,000명 이상이 해고되었습니다. 이번 인력 감축 속도는 작년 연간 약 120,000명을 해고한 속도를 이미 훨씬 앞지르고 있습니다.
스위스 인공지능 연구소(Swiss Institute of Artificial Intelligence) 고든 경영대학의 AI 및 금융 교수인 키스 리(Keith Lee)는 인건비가 더 저렴함에도 불구하고 AI 지출과 해고가 계속되는 것은 AI 경제학에서 의미 있는 불일치를 보여준다고 지적했습니다. 리 교수는 포춘(Fortune)과의 인터뷰에서 "우리가 보고 있는 것은 단기적인 불균형"이라고 말했습니다.
AI-노동 비용 균형 리 교수에 따르면, 하드웨어와 에너지 비용이 공급자의 운영비를 높이면서 AI 사용 비용은 인건비보다 비효율적인 상태를 유지하고 있습니다. 맥킨지(McKinsey) 데이터에 따르면 현재 속도라면 2030년까지 AI 지출은 5조 2,000억 달러에 달할 수 있으며, 그중 1조 6,000억 달러는 데이터센터 지출, 3조 3,000억 달러는 IT 장비 지출입니다. 가속화되면 지출은 2030년까지 7조 9,000억 달러로 급증할 수 있습니다.
한편 지출 관리 기업 트로픽(Tropic)은 작년 12월 AI 소프트웨어 비용이 지난 1년간 20%~37% 상승했다고 지적했습니다. 리 교수는 고정 구독료가 무거운 AI 사용자의 운영비를 충당하지 못하면서, 정액제 구독 모델로 인해 AI 기업들이 오히려 손해를 볼 수도 있다고 지적했습니다.
그는 "결과적으로 일부 기업들은 비용 구조가 안정될 때까지 AI를 인건비 절감을 위한 명확한 대체재가 아닌 보완재로서 재평가하기 시작하고 있다"고 덧붙였습니다.
오늘날 AI가 인건비보다 더 많은 비용이 들 수 있지만, AI의 경제성을 향한 전환점을 예고하는 경고 신호가 있을 것입니다. 우선, 리 교수는 AI 사용 비용이 크게 낮아질 것이라고 지적했습니다. 1조 개의 파라미터를 가진 대형 언어 모델의 경우 AI가 데이터를 분석하는 방식인 '추론(Inference)'을 수행하는 비용이 눈에 띄게 감소할 것입니다.