AI 관련 주식에 대한 대규모 차익 실현 매물이 쏟아지며 미국과 아시아 주요 반도체 기업의 주가가 급락했습니다. 특히 한국 시장에서는 삼성전자와 SK하이닉스가 동반 급락한 가운데 사이드카가 발동되는 등 큰 폭의 조정을 겪었습니다. 엔비디아의 대규모 AI 인프라 투자에 대한 수익성 우려와 중국 경쟁 심화 등이 이번 매도의 주요 원인으로 분석됩니다.
엔비디아가 오픈AI 전 최고 과학자 일리야 수츠케버가 설립한 안전초지능(SSI)에 대규모 투자를 진행했습니다. 이번 파트너십으로 SSI는 기존 구글 TPU 대신 엔비디아의 차세대 '베라 루빈(Vera Rubin)' GPU를 도입하여 연산 능력을 10배로 끌어올리게 되며, 엔비디아는 AI 붐 속 구글의 칩 시장 공세를 방어하는 계기를 마련했습니다.
엔비디아, 마이크로소프트, 메타 등 25개 이상의 글로벌 기업들이 미국 정책 입안자들에게 오픈 웨이트(Open-weight) AI 모델에 대한 조급한 규제를 삼가달라고 촉구했습니다. 최근 중국의 오픈 웨이트 모델이 기술적 성과를 내면서 미국 내에서 규제 논의가 일고 있으나, 기업들은 혁신 저하와 독점 우려를 이유로 폐쇄적 생태계만이 안전하다는 생각에 반대하고 있습니다.
AMD가 엔비디아의 독점적 지위를 위협할 차세대 AI 랙 규모 시스템인 '헬리오스(Helios)'를 공개했습니다. 오픈AI, 마이크로소프트, 앤스로픽 등 빅테크 기업들이 해당 시스템 도입을 확정하며, 2030년 1조 4천억 달러 규모로 성장할 AI 가속기 시장 선점을 위해 본격적인 경쟁에 나섰습니다.
엔비디아의 GPU가 지구를 넘어 달로 향합니다. 우주 로봇 스타트업인 루나 아웃포스트(Lunar Outpost)는 자사의 차기 달 탐사차에 엔비디아 제트슨(Jetson) 칩을 탑재해 LiDAR 시스템을 제어할 예정이며, 이는 달 표면의 첫 GPU 사례가 될 전망입니다. 우주라는 극한 환경에서도 고성능 AI 연산을 수행하여 자율 탐사 로봇의 의사결정 능력과 작업 효율을 혁신적으로 끌어올릴 수 있기 때문에, 향후 본격적인 달 기지 구축 및 우주 탐사에 매우 중요한 기술적 이정표로 평가받습니다.
이 튜토리얼은 NVIDIA의 srt-slurm 프레임워크를 활용하여 분산 LLM 서빙의 성능을 테스트하는 방법을 다룹니다. 선언적 YAML 설정을 재현 가능한 SLURM 워크플로로 변환하여, 클러스터 구성부터 분할된 프리필(prefill) 및 디코드(decode) 배포 모델링까지 전 과정을 실험해볼 수 있습니다. 실무자들이 대규모 언어 모델을 효율적으로 벤치마킹하고 배포 환경을 최적화하는 데 매우 유용한 가이드입니다.
엔비디아가 로봇과 비전 AI가 주변 환경을 이해하고 실시간으로 추론하여 기기 자체에서 동작을 생성할 수 있는 40억 매개변수(4B)의 오픈 월드 모델 '코스모스 3 엣지(Cosmos 3 Edge)'를 출시했습니다. 이번 릴리스는 로봇 공학과 자율 시스템 분야에서 네트워크 지연 없이 즉각적인 반응과 로컬 제어가 가능해진다는 점에서 매우 중요합니다.
마이크로소프트가 자사 클라우드 인프라에 AMD의 새로운 AI 칩을 도입하면서 엔비디아의 시장 독점력이 약화되는 추세입니다. 오픈AI에 이어 앤스로픽까지 AMD 하드웨어를 테스트 중인 것으로 알려져, AI 칩 시장의 다변화가 가속화되는 중요한 변화입니다.
엔비디아 CEO 젠슨 황의 일본 방문을 계기로 일본 정부와 주요 대기업들이 협력하여 로봇, 자동차, 공장을 자동화하는 '피지컬 AI(Physical AI)' 시대를 본격적으로 열고 있습니다. 엔비디아는 일본의 자체 AI 모델 구축을 위한 차세대 AI 팩토리 인프라와 엣지 AI 칩을 제공하며, 일본은 인구 감소에 대응하기 위한 로봇 산업 혁신에 수십조 원을 투자할 계획입니다.
엔비디아 직원이 자비로 구매한 DGX 스파크의 실사용 경험을 공유했습니다. 초소형 폼팩터와 뛰어난 전력 효율에도 불구하고 일반적인 웹 서핑, 프로그래밍은 물론 게이밍과 로컬 LLM 구동까지 훌륭한 성능을 보여주는 올라운더 ARM 기반 워크스테이션입니다. 가격 대비 성능은 다소 아쉽지만, 조용하고 발열이 적어 데스크탑 메인 PC로도 손색이 없는 것이 특징입니다.
엔비디아가 코딩 에이전트가 자연어 프롬프트만으로 다중 카메라 비디오 분석 파이프라인을 구축할 수 있는 딥스트림 9.1을 출시했습니다. 이번 업데이트는 여러 카메라의 영상을 하나의 3D 공간에서 통합 추적하고, 번거로운 수동 카메라 보정 작업을 자동화하는 핵심 기능들을 도입하여 비전 AI 개발의 효율성을 크게 높입니다.
본 튜토리얼은 엔비디아의 타일(Tile) 기반 GPU 프로그래밍 방식을 TileGym과 Colab 환경에서 실습합니다. cuTile 백엔드와 Triton 커널을 활용하여 벡터 덧셈부터 플래시 어텐션(Flash Attention)까지 핵심 알고리즘을 구현하며, 하드웨어 호환성을 고려한 최적화 전략을 제시합니다. GPU 연산 최적화와 AI 모델 학습 효율을 높이고자 하는 개발자에게 매우 유용한 자료입니다.
AI 붐을 주도하며 '컴퓨팅 파워'의 가치를 증명했던 엔비디아가 역설적으로 자신이 만든 시장의 변화에 발목을 잡혔습니다. 과거처럼 치명적이던 GPU 공급 부족 현상이 완화되고 주요 빅테크들이 자체 칩을 개발하면서 컴퓨팅 가격이 하락한 반면, 데이터센터에 필수적인 메모리 반도체는 공급이 수요를 따라가지 못해 가격이 급등했습니다. 이로 인해 투자자들의 시선이 엔비디아에서 마이크론 등 메모리 기업으로 급격히 이동하는 시장의 지형 변화가 일어나고 있습니다.
엔비디아가 기존 모델 대비 서버 처리량을 2배 이상 향상한 압축형 하이브리드 전문가 혼합(MoE) 대형 언어 모델을 공개했습니다. 이 모델은 하드웨어에 최적화된 구조적 압축과 지식 증류 기술을 활용하여 총 파라미터와 활성 파라미터 수를 줄이면서도 사용자별 응답 속도는 유지합니다. 결과적으로 동일한 하드웨어 환경에서 처리할 수 있는 동시 사용자 수와 전체 서버 효율성을 극대화할 수 있어, AI 인프라 운영 비용 절감 및 확장성 측면에서 매우 중요합니다.
본 튜토리얼은 구글 코랩 환경에서 엔비디아(NVIDIA)의 Cosmos 프레임워크를 활용하여 소형 '월드 모델(World Model)'을 구축하는 방법을 다룹니다. 텍스트, 비전, 액션을 결합하는 혼합 트랜스포머(Mixture-of-Transformers) 구조를 통해, 제한된 하드웨어 환경에서도 모델이 미래 상태를 예측하는 방법을 실무적으로 구현하고 학습할 수 있다는 점에서 중요합니다.
중국 AI 스타트업 딥시크가 엔비디아 및 화웨이 칩에 대한 의존도를 낮추기 위해 자체 AI 반도체 설계에 착수했습니다. 이 칩은 모델 학습이 아닌 사용자 응답을 생성하는 인퍼런스(Inference) 단계에 최적화되도록 설계되며, 프로젝트는 초기 단계지만 딥시크는 엔지니어를 비공개로 채용하며 본격적인 칩 개발을 준비 중입니다. 이와 함께 딥시크는 500억~590억 달러의 기업가치를 바탕으로 사상 최초로 외부 자금 유치에 나서는 등 자체적인 AI 생태계 구축에 박차를 가하고 있습니다.
AI 스타트업 앤스로픽이 자체 AI 반도체 설계 및 삼성전자와의 위탁생산을 탐색하고 있습니다. 인프라 비용 절감과 수익성 확보를 위해 맞춤형 칩을 개발하려는 빅테크의 최근 트렌드를 따르는 움직임입니다. 현재 구체적인 설계 단계는 아니지만 자체 칩 엔지니어링팀을 구축하며 '엔비디아 의존도 낮추기'에 본격적으로 나선 것으로 보입니다.
엔비디아가 신생 클라우드 제공업체들에 대해 미사용 GPU(GPU)를 직접 임대해 주겠다는 파격적인 재무 보증을 제공하며 클라우드 시장을 장악하고 있습니다. 이를 통해 스타트업들은 고가의 AI 칩을 손쉽게 구매할 수 있게 되었으며, 엔비디아는 이들의 클라우드 매출을 직접적으로 챙길 수 있게 되었습니다. 이는 자사의 최대 고객이자 직접적인 경쟁사인 아마존, 마이크로소프트, 구글 등 빅테크에 대한 엔비디아의 높은 의존도를 낮추기 위한 핵심 전략으로 평가받습니다.
엔비디아가 기존 자기회귀(AR) 모델의 텍스트 생성 속도 한계를 극복하기 위해 오픈 웨이트 기반의 확산 언어 모델(Diffusion Language Model) '네모트론 투타워(Nemotron-Labs-TwoTower)'를 공개했습니다. 이 모델은 사전 학습된 자기회귀 백본을 기반으로 하여 텍스트 생성 시 발생하는 처리량(Throughput) 병목 문제를 해결하는 것을 목표로 하며, NVIDIA Nemotron Open Model License를 따릅니다. AI 실무자들에게 텍스트 생성 효율을 획기적으로 높일 수 있는 중요한 대안을 제시한다는 점에서 의미가 있습니다.
AI 반도체 스타트업 에치드(Etched)가 자사 맞춤형 AI 칩 기반 시스템에 대해 10억 달러 규모의 계약을 성사시켰으며, 기업 가치 50억 달러를 달성했습니다. 이 회사의 칩은 AI 모델의 추론(Inference) 과정을 기존 범용 GPU보다 빠르고 저렴하게 처리하는 것을 목표로 하며, 최근 투자자들의 뜨거운 관심을 받고 있는 AI 반도체 시장의 핵심 경쟁자로 떠올랐습니다.
대만 당국은 미국의 슈퍼마이크로 컴퓨터(Super Micro Computer)와 현지 협력사들을 상대로 엔비디아(Nvidia) AI 반도체의 중국 불법 밀수 의혹과 관련해 대대적인 압수수색을 단행했습니다. 이는 미국의 강력한 대중국 반도체 수출 통제 우회 시도에 대한 수사 일환으로, 밀수 관련자들에 대한 체포와 공소 제기가 이어지고 있습니다. 이 사건으로 인해 슈퍼마이크로의 주가가 하락했으며, 대만 또한 향후 수출 규제를 미국 법률에 맞춰 강화하는 방안을 검토하고 있어 기업들의 컴플라이언스(규제 준수) 리스크가 매우 중요해졌습니다.
J.P. 모건은 AI 시장이 과열 양상를 보이고 있으며, 반도체 산업을 중심으로 닷컴 버블과 유사한 거품이 발생하고 있다고 경고했습니다. 시장 수익의 극심한 독점 현상, 엔비디아의 점유율 하락, 중국 오픈소스 모델의 약진으로 인한 수익성 악화 등 거시 경제 전반에 걸쳐 여러 겹의 리스크가 존재한다는 분석입니다.
이 글은 엔비디아의 Open-SWE-Traces 데이터셋을 활용하여 소프트웨어 개발 에이전트(Agent) 모델을 미세조정(SFT)하기 위한 고품질 학습 데이터를 구축하는 과정을 설명합니다. 허깅페이스 스트리밍을 통해 효율적으로 데이터를 처리하고, 도구 사용량과 패치 분석 등을 거쳐 성공적인 작업 기록만을 선별합니다. 이를 통해 실제 코드를 수정하고 도구를 다루는 능력이 뛰어난 코딩 AI 모델을 효과적으로 훈련시킬 수 있다는 점에서 실무적 가치가 높습니다.
오픈AI가 브로드컴과 함께 자체 인공지능 추론 칩인 '할라피뇨'를 개발하며 엔비디아 의존도를 낮추려 하고 있습니다. 이는 단일 공급업체에 대한 리스크를 회피하고 자사의 특정 목적에 최적화된 하드웨어 제어권을 확보하기 위한 업계 전반의 움직임입니다.
오픈AI가 브로드컴과 협력하여 자체 AI 추론용 칩인 '할라피뇨(Jalapeño)'를 개발하며 엔비디아 의존도를 낮추고 자체 실리콘 확보에 나섰습니다. 이는 구글과 애플 등 빅테크 기업들과 마찬가지로 공급망 리스크를 줄이고 하드웨어 성능을 최적화하려는 전략적 움직임입니다. 테크크런치 팟캐스트에서는 이러한 자체 칩 트렌드와 함께 AI 에이전트의 발전, 휴머노이드 로봇 기업의 상장 등 최근 AI 및 기술 산업의 주요 이슈를 다룹니다.
엔비디아의 최신 음성 인식 모델인 카나리-1B(Canary-1B-v2)를 활용해 다국어 음성 인식(ASR) 및 번역 파이프라인을 구축하는 튜토리얼입니다. 이 가이드를 통해 개발자는 GPU 환경에서 오디오를 전처리하고, 음성을 여러 언어로 번역하며, 타임스탬프가 포함된 자막(SRT) 파일을 자동으로 추출하는 전체 과정을 빠르게 실무에 적용할 수 있습니다.
엔비디아(Nvidia)가 핵심 인력을 영입하고 기술을 라이선스하는 형태의 사실상 인수합병을 진행한 지 약 6개월 만에, AI 칩 제조사 그록(Groq)이 6억 5천만 달러(약 8,800억 원)의 새로운 자금을 유치했습니다. 핵심 하드웨어 기술에 대한 권리를 엔비디아와 공유하게 된 그록은 사업 방향을 전환하여, 자체 '추론 클라우드(Neocloud)' 비즈니스를 주력으로 육성하고 있습니다. 엔비디아의 영입으로 공석이 된 경영진을 새롭게 충원하며, 극심한 경쟁 속에서도 클라우드 서비스 기업으로서의 생존과 성장을 모색하고 있습니다.
스페이스X가 오픈소스 AI 스타트업인 리플렉션 AI(Reflection AI)와 최대 63억 달러 규모의 컴퓨팅 계약을 체결했습니다. 리플렉션 AI는 엔비디아의 최신 AI 칩을 활용해 폐쇄형 경쟁사들을 대체할 수 있는 세계 최고 수준의 오픈소스 AI 모델을 구축하려 하며, 스페이스X는 자체 데이터센터의 연산 자원을 외부 기업에 제공해 수익을 창출하고 있습니다.
아마존 웹 서비스(AWS)는 자체 개발한 AI 칩인 '트레이니움(Trainium)'을 외부 기업에 직접 판매하는 방안을 진지하게 검토하고 있습니다. 이는 연간 약 500억 달러 규모의 새로운 수익 창출 기회이자, 현재 AI 반도체 시장을 장악하고 있는 엔비디아에 대한 가장 직접적인 도전장으로 평가됩니다. 다만 현재 칩 생산량이 수요를 따라가지 못하는 상황이어서, AWS 클라우드 고객들에 대한 서비스를 유지하면서 외부 판매로 전환할 수 있을지가 최대 관건입니다.
이 튜토리얼은 AI 스킬을 실제 배포하기 전에 정적 분석을 통해 보안 취약점을 사전에 점검하는 방법을 다룹니다. 엔비디아의 SkillSpector 도구를 활용해 보안 위험도를 평가하고 그 결과를 시각화하며 SARIF 형식으로 내보내는 전체 워크플로우를 설명합니다. 안전한 AI 에이전트 및 서비스 구축을 담당하는 실무자들에게 필수적인 보안 점검 과정입니다.