NVIDIA Nemotron-Labs-Diffusion-14B: AR·확산·자기추론 3모드 언어 모델
NVIDIA가 공개한 14B 파라미터 언어 모델로, 단일 모델에서 AR(자기회귀)·확산(diffusion)·선형 자기추론(linear self-speculation) 세 가지 디코딩 방식을 어텐션 패턴 전환만으로 지원한다. 확산 모드는 DGX Spark에서 AR 대비 2.7배, GB200에서 3.3배 속도 향상을 달성했으며, 자기추론 모드에서는 Qwen3-8B-Eagle3 대비 수용 길이 3배·SGLang 기준 2.2배 처리 속도 향상을 기록했다. 3B·8B·14B 패밀리와 비전-언어 변형까지 포함되며 NVIDIA Nemotron Open Model License로 공개되었다.
원문 보기