Lecciones del curso (4)
Lección 1 de 4 · 7 min de lectura
Servidores de inferencia
Entiende qué hace un servidor de inferencia, por qué existen vLLM y SGLang frente a Ollama y llama.cpp, y estima cuánta memoria de GPU necesita un modelo.
Al terminar esta lección
- · Explicar qué hace un servidor de inferencia y por qué no basta cargar el modelo en un script
- · Distinguir herramientas locales de servidores de producción como vLLM y SGLang
- · Estimar la memoria de GPU para pesos y caché de un modelo
Escuela de Inteligencia Artificial$349.000 COP$279.000 COPo 119 USD 95 USDPrecios de terror: −20 % hasta el 31 de octubre
Esta lección es parte de la Escuela de Inteligencia Artificial: todas sus rutas durante 12 meses, a tu ritmo y con certificado.