Funciones y tareas
Ejecutar modelos locales con CPU y GPU
Fuente oficial ↗llama.cpp
Ejecutar modelos locales con CPU y GPU
Modelos localesEmpresa
Ejecutar modelos locales con CPU y GPU
- Responsable
- ggml-orgFuente oficial ↗
- Creador original
- Georgi GerganovFuente oficial ↗
- Proyecto desde
- 2023Fuente oficial ↗
- ¿Cotiza?
- No aplica
Uso gratuito
Gratis en tu equipo; requiere hardware
Fuente oficial ↗Precio oficial
Software local gratis; nube aparte
Fuente oficial ↗Modelos y capacidades
GGUF-compatible local models
Fuente oficial ↗Países y acceso
Uso local; reglas de nube y modelos por separado
Fuente oficial ↗Uso comercial
Licencia de software documentada; modelos aparte.
Fuente oficial ↗Métodos de pago
- Sin pago de software para la versión autoalojada/de código abiertoFuente oficial ↗
- El alojamiento, el cómputo y las API de modelos se cobran por separadoFuente oficial ↗
Precios API y planes
Self-hosted core has no vendor fee per request; GPU, hosting and connected model APIs cost separately.
Plan web (no es precio de API)
Software local gratis; nube aparte
Fuente oficial ↗