기능과 작업
대규모 언어 모델 고속 추론 및 서빙
공식 자료 ↗vLLM
대규모 언어 모델 고속 추론 및 서빙
코딩회사 소개
대규모 언어 모델 고속 추론 및 서빙
무료 이용
자체 기기 무료·하드웨어 필요
공식 자료 ↗공식 요금
로컬 무료·클라우드 별도
공식 자료 ↗모델과 기능
Serving compatible large language models
공식 자료 ↗국가·지역 및 접속
자체 호스팅·로컬 가능, 클라우드·모델 정책 별도
공식 자료 ↗상업적 이용
코드 라이선스 확인. 모델과 API 조건은 별도입니다.
공식 자료 ↗결제 수단
개발자 API 요금 및 구독
Self-hosted core has no vendor fee per request; GPU, hosting and connected model APIs cost separately.
웹 구독료(API 호출 요금과 별도)
로컬 무료·클라우드 별도
공식 자료 ↗