الوظائف والمهام
خادم استدلال سريع للنماذج اللغوية الكبيرة
المصدر الرسمي ↗vLLM
خادم استدلال سريع للنماذج اللغوية الكبيرة
البرمجةنبذة عن الشركة
خادم استدلال سريع للنماذج اللغوية الكبيرة
- الجهة المطوّرة
- vLLM projectالمصدر الرسمي ↗
- المؤلف الأصلي
- Woosuk Kwon and original paper contributorsالمصدر الرسمي ↗
- بداية المشروع
- 2023المصدر الرسمي ↗
- الإدراج
- لا ينطبق
الاستخدام المجاني
مجاني على جهازك مع متطلبات العتاد
المصدر الرسمي ↗الأسعار الرسمية
محلي مجاني، السحابة منفصلة
المصدر الرسمي ↗النماذج والقدرات
Serving compatible large language models
المصدر الرسمي ↗البلدان وإمكانية الوصول
البرنامج محلي؛ شروط السحابة والنماذج منفصلة
المصدر الرسمي ↗الاستخدام التجاري
ترخيص البرنامج موثق؛ حقوق النماذج منفصلة.
المصدر الرسمي ↗طرق الدفع
- لا توجد رسوم للبرنامج ذاتي الاستضافة أو مفتوح المصدرالمصدر الرسمي ↗
- تُحاسب تكاليف السحابة والحوسبة والاستضافة وواجهات النماذج بشكل منفصلالمصدر الرسمي ↗
أسعار API والاشتراكات
Self-hosted core has no vendor fee per request; GPU, hosting and connected model APIs cost separately.
اشتراك الويب (ليس سعر استدعاء API)
محلي مجاني، السحابة منفصلة
المصدر الرسمي ↗