tashfeenahmed/freellmapi
- 스타
- 50,253
- 언어
- TypeScript
- 라이선스
- MIT
- 월간
- 순위 14 · +17,544 스타 증가
저장소 수치는 발행일의 관측 정보이며 현재 수치와 다를 수 있습니다.
주요 내용 FreeLLMAPI는 여러 제공자의 무료 할당량과 사용자 지정 엔드포인트를 단일 API로 연결하는 모델 라우터다. 키별 사용량 추적, 요청 제한 시 대체 경로 전환, 암호화된 키 저장을 제공하며 OpenAI·Anthropic·Gemini·Ollama 형식의 클라이언트를 연결할 수 있다. 활용 사례 제공자 키를 등록하고 기존 호환 클라이언트가 로컬 라우터를 바라보게 설정한다. 대시보드에서 대체 모델 체인과 사용량을 관리하거나 사용자 지정 로컬 모델 엔드포인트를 추가한다. 비용 및 제약 무료 설치 경로가 있으며 실시간 모델 카탈로그는 선택적 유료 기능으로 연 19달러라고 명시한다. 무료 카탈로그는 새 모델 반영이 30일 늦고, 외부 제공자의 무료 한도·계정 조건이 적용된다. 유료 엔드포인트 사용료, 자체 호스팅과 로컬 모델 장비 비용은 별도다. 도입 시 유의사항 Node 20 이상 또는 제공된 배포 구성이 필요하고 제공자별 키·약관·할당량을 확인해야 한다. 메타데이터는 개인 실험용으로 범위를 제한한다. 총 토큰 수와 자동 한도 준수는 개발자 설명이며 가용량이나 무과금을 보장하는 검증 결과가 아니다. 주목하는 이유 월간 Trending 14위, 스타 증가량 17,544개가 관측됐다. 2026-11-11 등록된 v0.16.24는 PowerTokens 대체 경로와 사용자 지정 엔드포인트의 키 순환 수정을 설명하며, PowerTokens의 잦은 요청 제한도 명시한다.
GitHub 원문 보기