ggml-org/ggml
- 스타
- 15,893
- 언어
- C++
- 라이선스
- MIT
- 일간
- 순위 8 · +53 스타 증가
저장소 수치는 발행일의 관측 정보이며 현재 수치와 다를 수 있습니다.
주요 내용 C/C++로 작성된 머신러닝 텐서 라이브러리다. 여러 연산 백엔드와 저비트 양자화 형식을 제공하며, README는 최소 의존성과 런타임 메모리 할당 없는 설계를 특징으로 제시한다. 활용 사례 소스에서 빌드한 뒤 주석이 포함된 행렬 곱셈 예제로 텐서 연산 통합을 시작한다. 활용 제안(추론): 자체 머신러닝 실행 코드를 개발할 때 필요한 연산·양자화·백엔드 지원을 비교하는 기반으로 검토할 수 있다. 비용 및 제약 라이브러리는 MIT이며 제공된 자료에는 필수 유료 API나 구독이 없다. 빌드·실행 장비와 선택 백엔드의 개발·운영 비용은 별도이며, 필요한 자원 규모와 구체적인 비용 조건 확인 필요. 도입 시 유의사항 C/C++와 CMake 빌드 지식이 필요하다. 특정 장비에서의 모델 실행 가능 여부나 성능은 자료만으로 판단할 수 없다. v1.0.0의 제거된 API·연산 및 RPC 프로토콜 변경을 확인해야 하고, 코어 변경 기여는 llama.cpp로 안내한다. 주목하는 이유 일간 Trending 8위, 증가량 53이 관측됐다. 2026-11-13 등록 v1.0.0은 오래된 공개 API 정리, FP8 지원과 여러 백엔드 변경을 포함하므로 기존 통합의 호환성을 검토할 계기가 된다.
GitHub 원문 보기