MarkTechPost • 28일 전

엔비디아, 확산 기반 언어모델 '네모트론 투타워' 공개

IMP

7/10

핵심 요약

엔비디아가 기존 자기회귀(AR) 모델의 텍스트 생성 속도 한계를 극복하기 위해 오픈 웨이트 기반의 확산 언어 모델(Diffusion Language Model) '네모트론 투타워(Nemotron-Labs-TwoTower)'를 공개했습니다. 이 모델은 사전 학습된 자기회귀 백본을 기반으로 하여 텍스트 생성 시 발생하는 처리량(Throughput) 병목 문제를 해결하는 것을 목표로 하며, NVIDIA Nemotron Open Model License를 따릅니다. AI 실무자들에게 텍스트 생성 효율을 획기적으로 높일 수 있는 중요한 대안을 제시한다는 점에서 의미가 있습니다.

번역된 본문

엔비디아(NVIDIA)는 사전 학습된 자기회귀(Autoregressive) 백본을 기반으로 구축된 확산 언어 모델(Diffusion Language Model)인 '네모트론 투타워(Nemotron-Labs-TwoTower)'를 공개했습니다. 이 모델은 NVIDIA Nemotron Open Model License에 따라 오픈 웨이트(Open Weight) 형태로 제공됩니다.

이번 배포는 텍스트 생성 과정에서 발생하는 처리량(Throughput) 병목 현상을 해결하는 것을 목표로 합니다. 기존의 자기회귀(AR) 모델은 한 번에 하나의 토큰(Token)씩 순차적으로 디코딩합니다. 이러한 직렬 처리 방식은 결국 전체 텍스트 생성 처리량의 한계를 초래합니다. 이에 반해 이산적 확산 언어 모델(Discrete diffusion language models)은 [...]

원문 보기

원문 보기 (영어)

NVIDIA has released Nemotron-Labs-TwoTower, a diffusion language model built on a pretrained autoregressive backbone. It ships as open weights under the NVIDIA Nemotron Open Model License. The release targets a throughput bottleneck in text generation. Autoregressive (AR) models decode one token at a time. That serial process caps generation throughput. Discrete diffusion language models take […] The post NVIDIA Releases Nemotron-Labs-TwoTower: an Open-Weight Diffusion Language Model Built on a Frozen Autoregressive Nemotron-3-Nano-30B-A3B Backbone appeared first on MarkTechPost.

엔비디아 언어모델 오픈소스 확산모델 자기회귀