LINGXIFIELD · GLOBAL SI AI MARKET

vLLM

大規模言語モデルを高速配信・推論

開発・プログラミング

企業概要

大規模言語モデルを高速配信・推論

管理者
vLLM project公式資料 ↗
初期開発者
Woosuk Kwon and original paper contributors公式資料 ↗
開始年
2023公式資料 ↗
上場状況
対象外

国・地域・アクセス

自己ホスト・ローカル利用可。クラウドとモデルは別

公式根拠 ↗

商用許諾

コードの商用ライセンスを確認。モデル/APIは別です。

公式根拠 ↗

支払方法

  • セルフホスト版・オープンソース版のソフトウェア料金は不要公式根拠 ↗
  • クラウド、計算資源、ホスティング、モデルAPI料金は別途公式根拠 ↗

開発者API料金と会員プラン

Self-hosted core has no vendor fee per request; GPU, hosting and connected model APIs cost separately.

Web会員費(API従量料金とは別)

ローカル本体は無料・クラウド別料金

公式根拠 ↗