Thinking Machines Lab, 594B MoE 모델 Inkling 2 Small 출시

Inkling 2 Small은 Thinking Machines Lab의 2세대 Mixture-of-Experts 모델로, 전체 594B parameters 중 17B를 활성화하며 이미지 입력과 variable effort를 지원한다. 회사는 사전학습 및 통합 reinforcement learning 개선으로 Artificial Analysis Intelligence Index에서 31점을 기록했다고 밝혔다. Tinker에서 추론과 fine-tuning을 제공하며, 출시 당시 가중치는 비공개지만 외부 안전성 시험을 마친 뒤 Apache 2.0으로 공개할 계획이다.

원문 보기