¿Qué es el Servidor para LLM de Rollin Host?
Es un servidor con GPU NVIDIA dedicada, pensado para alojar y ejecutar LLMs (Large Language Models) open-source — como Llama 3, Mistral, DeepSeek, Qwen y Gemma. Viene con Ollama, vLLM y llama.cpp preinstalados. Ejecutas inferencia y, en el plan Pro, fine-tuning, con la GPU 100% tuya.
¿Qué plan elegir — Inferencia o Pro?
El plan Inferencia (GPU 20 GB) sirve modelos de 7B a 13B en producción sólida — Llama 3 8B, Mistral 7B, Phi-3, Gemma 2. El plan Pro (GPU 96 GB) corre modelos grandes (Llama 3 70B, Mixtral 8×22B, DeepSeek R1) y permite fine-tuning.
¿Cuánto cuesta y hay cargo de setup?
El plan Inferencia cuesta US$ 649,80/mes y el Pro US$ 2.575,80/mes. Hay un cargo de setup único de US$ 259,80 (cubre la preparación del servidor con GPU, drivers CUDA y las herramientas de IA). Sin permanencia.
¿En cuánto tiempo queda listo el servidor?
El aprovisionamiento de servidores con GPU toma hasta 48 horas hábiles. A diferencia de una VPS común, los servidores GPU tienen stock limitado y preparación dedicada. El flujo es: solicitas el plan, confirmamos disponibilidad y entrega, y aprovisionamos.
¿Los datos quedan privados?
Sí, totalmente. El modelo corre en tu servidor — prompts, respuestas y datos de entrenamiento nunca salen de tu infraestructura. Es la diferencia fundamental con APIs como OpenAI o Anthropic, donde todo el contenido se envía a servidores de terceros.
¿Qué modelos y herramientas funcionan?
Cualquier LLM open-source: Llama 3, Mistral, Mixtral, DeepSeek, Qwen, Gemma, Phi-3 y otros. Las herramientas Ollama, vLLM y llama.cpp ya vienen instaladas. En el plan Pro también Hugging Face Transformers, Accelerate y PEFT para fine-tuning.
¿Puedo hacer fine-tuning?
Sí, en el plan Pro (GPU 96 GB). Soporta LoRA, QLoRA, DPO y DeepSpeed — adaptas un modelo open-source a tus datos y dominio. El plan Inferencia se enfoca en servir modelos, no entrenar.
¿Hay soporte humano?
Sí — soporte humano 24/7, con gente que entiende CUDA, Ollama, vLLM y fine-tuning. Rollin Host es una empresa brasileña (Rollin Serviços Digitais e Tecnologia LTDA).