Ejecutar un LLM en tu propio servidor
Ejecutar un LLM en tu propio servidor exige medir VRAM, coste y operación. Guía práctica para elegir GPU, proveedor y límites antes de desplegar.
6 min de lectura
L
- Fundado
- 2012
- planes
- 22
- API pública
- sí
Mini-screener de planes
Todos los planes de muestra de este proveedor, agrupados por vertical y normalizados para comparar.
| Plan | Vertical | CPU | RAM | Tipo de disco | GPU | Ubicación | SLA | Precio | Acción |
|---|---|---|---|---|---|---|---|---|---|
8x NVIDIA B200 SXM6 training · SSD | Servidores GPU | 208 | 2.900 GB | 22.528 GB | 8 | EE. UU. | — | —/mes | Ir al proveedor |
8x NVIDIA H100 SXM training · SSD | Servidores GPU | 208 | 1.800 GB | 22.528 GB | 8 | EE. UU. | — | —/mes | Ir al proveedor |
8x NVIDIA A100 SXM 80GB training · SSD | Servidores GPU | 240 | 1.800 GB | 19.968 GB | 8 | EE. UU. | — | —/mes | Ir al proveedor |
8x NVIDIA A100 SXM 40GB training · SSD | Servidores GPU | 124 | 1.800 GB | 5.939 GB | 8 | EE. UU. | — | —/mes | Ir al proveedor |
8x NVIDIA Tesla V100 16GB training · SSD | Servidores GPU | 88 | 448 GB | 5.939 GB | 8 | EE. UU. | — | —/mes | Ir al proveedor |
4x NVIDIA B200 SXM6 training · SSD | Servidores GPU | 104 | 1.440 GB | 11.264 GB | 4 | EE. UU. | — | —/mes | Ir al proveedor |
4x NVIDIA H100 SXM training · SSD | Servidores GPU | 104 | 900 GB | 11.264 GB | 4 | EE. UU. | — | —/mes | Ir al proveedor |
4x NVIDIA A100 PCIe 40GB training · SSD | Servidores GPU | 120 | 900 GB | 1.024 GB | 4 | EE. UU. | — | —/mes | Ir al proveedor |
4x NVIDIA A6000 training · SSD | Servidores GPU | 56 | 400 GB | 1.024 GB | 4 | EE. UU. | — | —/mes | Ir al proveedor |
2x NVIDIA B200 SXM6 training · SSD | Servidores GPU | 52 | 720 GB | 5.632 GB | 2 | EE. UU. | — | —/mes | Ir al proveedor |
2x NVIDIA H100 SXM training · SSD | Servidores GPU | 52 | 450 GB | 5.632 GB | 2 | EE. UU. | — | —/mes | Ir al proveedor |
2x NVIDIA A100 PCIe 40GB training · SSD | Servidores GPU | 60 | 450 GB | 1.024 GB | 2 | EE. UU. | — | —/mes | Ir al proveedor |
2x NVIDIA A6000 training · SSD | Servidores GPU | 28 | 200 GB | 1.024 GB | 2 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA B200 SXM6 inference · SSD | Servidores GPU | 26 | 360 GB | 2.816 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA GH200 inference · SSD | Servidores GPU | 64 | 432 GB | 4.096 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA H100 SXM inference · SSD | Servidores GPU | 26 | 225 GB | 2.816 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA H100 PCIe inference · SSD | Servidores GPU | 26 | 225 GB | 1.024 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA A100 SXM 40GB inference · SSD | Servidores GPU | 30 | 220 GB | 512 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA A100 PCIe 40GB inference · SSD | Servidores GPU | 30 | 225 GB | 512 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA A10 inference · SSD | Servidores GPU | 30 | 226 GB | 1.331 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA A6000 inference · SSD | Servidores GPU | 14 | 100 GB | 512 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
1x NVIDIA Quadro RTX 6000 inference · SSD | Servidores GPU | 14 | 46 GB | 512 GB | 1 | EE. UU. | — | —/mes | Ir al proveedor |
Enlace de afiliado: podemos recibir una comisión si compras después de hacer clic. Las clasificaciones siguen siendo independientes. Divulgación
Datacenters
EE. UU.
- País
- EE. UU.