機能と用途
大規模言語モデルを高速配信・推論
公式根拠 ↗大規模言語モデルを高速配信・推論
開発・プログラミング大規模言語モデルを高速配信・推論
大規模言語モデルを高速配信・推論
公式根拠 ↗自分のPCなら無料・機器が必要
公式根拠 ↗ローカル本体は無料・クラウド別料金
公式根拠 ↗Serving compatible large language models
公式根拠 ↗自己ホスト・ローカル利用可。クラウドとモデルは別
公式根拠 ↗コードの商用ライセンスを確認。モデル/APIは別です。
公式根拠 ↗Self-hosted core has no vendor fee per request; GPU, hosting and connected model APIs cost separately.
ローカル本体は無料・クラウド別料金
公式根拠 ↗