Tencent, Qwen3.8-27B용 DSpine draft model 가중치 공개

Qwen3.8-27B-DSpine-b16은 Tencent가 Qwen3.8-27B의 speculative decoding을 위해 공개한 약 2B 파라미터 draft model이다. 5개 레이어, 16-token draft block, 8,192-token sliding window를 사용하며, 병렬로 생성한 후보 토큰에 레이어 깊이를 통해 인과 정보를 전달한다. Apache-2.0 가중치와 SGLang 실행 방법을 제공하며, 자체 GSM8K 평가의 temperature 0 조건에서 평균 acceptance length는 DFlash2의 5.69에서 7.20으로 높아져 추론 가속 가능성을 보여준다.

원문 보기