TD
The Decoder • 45일 전
IMP 8
엔비디아, 최고 속도에 초점 맞춘 네모트론 3.5 라이트닝 공개
엔비디아가 에이전트 파이프라인의 빠른 처리 속도에 최적화된 오픈 웨이트 모델인 '네모트론 3.5 라이트닝(Nemotron 3.5 Lightning)'을 출시했습니다. 이 모델은 총 316억 개의 파라미터 중 매 순간 36억 개만 활성화하는 하이브리드 아키텍처를 통해, 동급 최고 수준의 초당 670 토큰(TPS) 추론 속도를 달성했습니다. 파라미터가 4배 많은 기존 모델들과 동등한 지능 지수를 유지하면서도 에이전트 벤치마크에서 압도적인 성능 향상을 보여주며 효율성의 새로운 기준을 제시했다는 점에서 중요합니다.
엔비디아 네모트론 오픈소스