Saltar al contenido
VECANOVA LABSCursos gratis

Curso · a tu ritmo

Servir LLMs con vLLM y SGLang

  • ~10 horas
  • 4 lecciones publicadas
  • Parte de 3 rutas
Empezar el curso

Lecciones

Contenido del curso

  1. 🔒Servidores de inferenciaDisponible al abrir la ruta.
  2. 🔒vLLM, SGLang y la API compatible con OpenAIDisponible al abrir la ruta.
  3. 🔒Latencia, throughput y costosDisponible al abrir la ruta.
  4. 🔒Evaluación final del cursoDisponible al abrir la ruta.