스탠퍼드대와 NVIDIA 연구진이 대비 학습(contrastive learning) 목표로 상태와 행동을 연결하는 새로운 모델 클래스 '대비 언어 모델(CLM)'을 발표했습니다. CLM-8B는 컴퓨터 조작, 게임, 도구 호출 작업에서 Jev와 대등한 성능을 내면서도 최대 9배 낮은 지연시간을 보이며, 미세조정만으로 DeepSWE(81.6%), Terminal Bench 2.1(87.6%) 등 에이전트 코딩 벤치마크에서 새로운 SOTA를 달성했습니다. 또한 상태와 행동의 임베딩을 독립적으로 캐싱·재사용하는 초효율 훈련·서빙 인프라와 함께 CLM의 스케일링 법칙도 제시했습니다.
NVIDIA가 1억 파라미터 규모의 오픈 웨이트 화자 구분(speaker diarization) 모델 'Nemotron 3 Diarization'을 허깅페이스에 공개했습니다. 이 모델은 대화에서 '누가 언제 발언했는지'를 추적하며, 최대 8명의 화자를 음성이 겹치는 상황에서도 실시간으로 구분할 수 있습니다. 하나의 체크포인트로 오프라인 녹음과 실시간 스트리밍 모두 처리 가능하며, 웨이트가 공개되어 실무 배포가 가능하다는 점이 중요합니다.
NVIDIA의 cuDNN Frontend Graph API를 활용해 커스텀 커널 퓨전(kernel fusion), 오토튜닝 엔진 구성, FP8 스타일 에필로그(epilogue), 스케일드 닷-프로덕트 어텐션(SDPA), 동적 셰이프, CUDA 그래프 캡처를 구현하는 실용적 튜토리얼입니다. 딥러닝 프레임워크 추상화 아래 단계에서 연산을 직접 최적화하려는 개발자에게 유용하며, 결과를 PyTorch와 대조 검증하는 방법도 다룹니다.
NVIDIA가 Rust를 GPU 커널 작성의 일급 언어로 만들기 위한 'CUDA Rust'를 발표했습니다. 오픈소스 프로젝트 두 개가 각각의 CUDA 프로그래밍 모델을 지원하는데, cuda-oxide는 SIMT 커널을 Rust MIR에서 Pliron과 LLVM을 거쳐 PTX로 컴파일하고, cutile-rs는 안정 버전 Rust 1.89 이상에서 CUDA Tile IR을 통해 Tile 커널을 JIT 컴파일합니다. 컴파일 시점에 안전성을 보장하는 GPU 커널 개발이 가능해진다는 점에서 개발자 생태계에 중요한 변화입니다.
이번 튜토리얼에서는 대규모 코드 사전학습 연구를 위해 NVIDIA의 'Nemotron-Pretraining-Code-v3' 데이터셋 메타데이터를 활용하는 파이프라인을 구축합니다. 데이터를 직접 다운로드하지 않고 스트리밍(Streaming) 방식으로 불러와 언어별 분포와 저장소 구조를 분석하며, 실제 깃허브 소스 코드를 가져와 토큰(Token) 규모를 추정하는 전체 과정을 다룹니다.
엔비디아가 기존 에이전트 구동부 수정 없이도 강화학습 훈련을 가능하게 하는 롤아웃 프레임워크 'Polar'를 발표했습니다. 이 프레임워크는 API 프록시를 통해 토큰 단위의 상호작용을 캡처하여 완벽한 훈련용 궤적을 재구성하는 것이 특징입니다. 실제 SWE-Bench 테스트에서 Codex, Claude Code 등 다양한 환경의 코딩 성능을 크게 향상시키며 그 효용성을 입증했습니다.
엔비디아 NVlabs가 Rust 코드를 CUDA GPU용 PTX 코드로 직접 변환해 주는 실험적 컴파일러 백엔드인 'cuda-oxide v0.1.0'을 공개했습니다. 이 도구는 별도의 CUDA 코드 없이 Rust만으로 GPU 커널을 작성할 수 있게 해 주며, cargo 명령어 하나로 호스트와 디바이스 코드의 단일 소스 컴파일을 지원합니다. 이를 통해 Rust의 안정성과 생산성을 그대로 유지하면서도 복잡한 GPU 프로그래밍을 단순화할 수 있어 그래픽스 및 AI 개발자들에게 중요한 의미를 가집니다.
Unsloth와 NVIDIA는 소비자용 GPU에서 LLM 파인튜닝 시 발생하는 숨겨진 병목 현상을 해결하여 학습 속도를 약 25% 향상시켰습니다. 반복적인 메타데이터 구축을 캐싱하고, 그래디언트 체크포인팅 시 버퍼를 2개 사용해 연산을 겹치게 하며, MoE 라우팅을 최적화하는 세 가지 핵심 기술을 도입했습니다. 이는 개발자들이 기존 하드웨어의 한계를 뛰어넘어 최대치의 성능을 끌어낼 수 있게 해준다는 점에서 실무적으로 매우 중요합니다.
NVIDIA 연구팀이 언어 모델의 강화학습 훈련 루프에 추측적 디코딩(Speculative Decoding)을 통합하여, 모델 출력 분포 손실 없이 롤아웃 생성 속도를 1.8배 향상시키는 기술을 선보였습니다. 이 방식은 기존의 처리량 증가를 위해 훈련 충실도를 희생해야 했던 문제를 해결하여, 모델 성능 저하 없이 완벽한 속도 개선을 이뤄냈다는 점에서 매우 중요합니다.
한국 독자를 위해 요약하면, 이 글은 16대의 NVIDIA DGX Spark를 활용해 역대급 규모의 홈랩 AI 클러스터를 구축하는 과정을 담고 있습니다. 통합 2TB 메모리와 200Gbps 고속 스위치로 구성되어 대규모 AI 모델의 분산 학습이나 추론에 활용할 수 있는 중요한 인프라입니다. 내일 오후면 세팅이 완료될 예정으로, 어떤 워크로드를 실행할지 논의를 위해 공유되었습니다.
NVIDIA가 연구진과 기업이 실질적인 애플리케이션을 구동할 수 있는 양자 프로세서를 구축하도록 돕기 위해 세계 최초의 오픈소스 양자 AI 모델 패밀리인 'NVIDIA Ising'을 출시했습니다. 이 모델은 AI를 활용해 양자 컴퓨팅의 핵심 병목 현상인 하드웨어 교정과 실시간 오류 정정을 자동화하여, 기존 대비 처리 속도는 최대 2.5배, 정확도는 3배 향상시켰습니다. 이미 아이비리그, 국책 연구소, 연세대학교 등을 포함한 수많은 글로벌 기관이 이 기술을 실제 도입하며 양자 컴퓨팅의 실용화를 크게 앞당기고 있습니다.
이 글은 구글 Colab 환경에서 NVIDIA PhysicsNeMo를 활용해 물리 기반 머신러닝(Physics-informed ML) 워크플로우를 구축하는 단계별 코딩 튜토리얼입니다. 2D Darcy Flow 문제 데이터를 생성 및 시각화하고, FNO, PINNs 등 핵심 모델을 구현 및 학습하여 대리 모델(Surrogate Model) 기반의 추론 벤치마킹까지 수행하는 실무 과정을 다룹니다.