엔비디아가 만든 시장의 덫에 갇힌 엔비디아
AI 붐을 주도하며 '컴퓨팅 파워'의 가치를 증명했던 엔비디아가 역설적으로 자신이 만든 시장의 변화에 발목을 잡혔습니다. 과거처럼 치명적이던 GPU 공급 부족 현상이 완화되고 주요 빅테크들이 자체 칩을 개발하면서 컴퓨팅 가격이 하락한 반면, 데이터센터에 필수적인 메모리 반도체는 공급이 수요를 따라가지 못해 가격이 급등했습니다. 이로 인해 투자자들의 시선이 엔비디아에서 마이크론 등 메모리 기업으로 급격히 이동하는 시장의 지형 변화가 일어나고 있습니다.
오랫동안 산업을 이끌어온 선두주자인 엔비디아는 지난 몇 달간 좋지 않은 시기를 보내고 있습니다. 블룸버그의 자료에 따르면 자세한 내막은 좋지 않지만, 요약하자면 예상 매출이 계속 증가함에도 불구하고 5월 최고치를 기록한 이후 회사의 주가가 15% 하락했다는 것입니다. 예상 수익과 비교해 볼 때, 현재 엔비디아는 S&P 평균보다 저평가된 상태입니다. 즉, 투자자들은 미국의 일반적인 대형 기업보다 엔비디아의 예상 수익 1달러당 더 적은 금액을 지불하고 있습니다. 여전히 자금은 AI 인프라 주식으로 쏟아져 들어오고 있지만, 대부분은 메모리 기업으로 향하고 있습니다. 같은 기간 동안 컴퓨터와 서버에 사용되는 표준 메모리 칩인 DRAM의 세계 최대 제조사 중 하나인 마이크론(Micron)의 기업 가치는 거의 세 배나 상승하며, 메모리가 데이터센터의 새로운 병목 현상이자 뜨거운 새로운 AI 투자처로 자리 잡았습니다.
그 근본적인 이유는 간단합니다. 지난해 그토록 경계심을 불러일으켰던 GPU 부족 현상이 다소 완화되었기 때문입니다. 동시에 데이터센터는 돈으로 살 수 있는 모든 메모리를 필요로 하고 있습니다. 엔비디아의 기술적 성과를 높이 평가하는 사람이라면 이 상황이 다소 풀이 죽는 느낌이 들 수 있습니다. 엔비디아의 GPU를 AI 연구의 기본 엔진으로 만든 널리 쓰이는 프로그래밍 플랫폼인 CUDA를 개발한 것부터, 소수만이 가능할 것이라 생각했던 속도로 GPU 개발 속도를 앞당긴 것까지, 엔비디아의 부상 뒤에는 진정으로 놀라운 기술력이 많이 자리 잡고 있습니다. 엔비디아의 성공은 책 한 권을 쓸 수 있을 만큼 대단한 것이며, GPU 자체도 인류 기술의 최첨단에 있는 지금까지 생산된 가장 복잡한 장치 중 하나입니다.
마이크론과 같은 메모리 기업들의 경우, 이야기는 훨씬 단순합니다. 이들은 프로세서 내외부로 데이터를 최대한 빨리 이동시키기 위해 설계된 특수 부품인 대역폭 메모리 칩을 제조하며, 지난 20년 동안 점진적으로 발전해 왔습니다. 칩이나 기업 자체가 크게 변한 것은 없지만, 이들이 제공하는 서비스가 갑자기 매우 가치 있는 존재가 되었습니다. 그리고 수요가 공급을 확장할 수 있는 속도보다 훨씬 빠르게 증가함에 따라, 지난해에는 가격을 10배나 올릴 수 있었습니다. 이것은 데이터 조사 기업인 데이터트랙(Datatrack)에 따른 2023년 이후 DRAM 현물 가격(장기 계약 가격이 아닌 공개 시장에서 구매자가 칩에 대해 지불하는 가격)의 추이입니다. 2025년 여름에 어떤 놀라운 기술적 돌파구가 있었던 것 아니냐고 생각할 수도 있지만, 그렇지 않습니다. 산업 전체가 데이터센터 구축에 얼마나 많은 메모리가 필요할지 터무니없이 과소평가했을 뿐입니다.
이에 비해 이것은(컴퓨팅 시장 Ornn에 따른) 지난 1년 동안 엔비디아 H100 GPU 1시간 사용에 대한 현물 가격 변화 추이입니다. 엔비디아의 주가와 마찬가지로 5월에 정점(시간당 약 3.20달러)을 찍고 이후 꾸준히 하락하고 있습니다. 좋든 나쁘든 엔비디아라는 기업의 가치는 컴퓨팅 가격과 연결되어 있으며, 그 가격은 떨어지고 있습니다. 반면 마이크론과 동종 업계들은 DRAM 가격과 연결되어 있으며, 그 가격은 계속 상승하고 있습니다.
이러한 격차를 몰고 있는 원동력에 대해 Ornn의 공동 창립자이자 CTO인 웨인 넬름스(Wayne Nelms)와 이야기를 나누었을 때, 그는 이를 단순한 수요와 공급의 문제로 규정했습니다. 구글, 아마존, 마이크로소프트, 심지어 OpenAI는 엔비디아에 대한 의존도를 낮추기 위해 자체 맞춤형 프로세서를 출시했습니다. 이 칩들이 엔비디아의 최신 모델만큼 좋지는 않더라도, 컴퓨팅 가격을 낮추기에는 충분히 좋습니다. 넬름스는 "더 많은 GPU 및 가속기(Accelerator) 기업들이 시장에 진입하고 있습니다. 모두가 자체 실리콘을 만들고 싶어 하지만, 아무도 자체 DRAM을 만들지는 않습니다."라고 말했습니다. "고대역폭 메모리(HBM)에 중대한 기술적 돌파구가 생기거나, 수요와 공급의 변화가 있거나, 누군가 메모리 시장에 새롭게 진출하기 전까지는 현재와 같은 상황이 대체로 지속될 것이라고 생각합니다."
이는 엔비디아 입장에서 좌절스러운 상황이며, 대부분은 그들 자신의 성공이 낳은 결과입니다. 컴퓨팅이 얼마나 가치 있는 것인지를 증명해 보였지만, 이제 회사는 모든 사람이 진입하고 싶어 하는 시장의 중심에 서게 되었고, 정작 더 단순한 기술과 덜 흥미로운 기업들은 방관자 자리에서 부를 축적하고 있습니다.