Lecciones del curso (4)
Lección 2 de 4 · 8 min de lectura
vLLM, SGLang y la API compatible con OpenAI
Levanta un modelo con vLLM o SGLang, configura memoria, contexto y paralelismo, protégelo con clave y consúmelo con el cliente de OpenAI cambiando solo la dirección.
Al terminar esta lección
- · Levantar un modelo con vLLM o SGLang con los parámetros principales
- · Consumir cualquier servidor compatible con el cliente de OpenAI
- · Proteger y operar el servidor de inferencia
Escuela de Inteligencia Artificial$349.000 COP$279.000 COPo 119 USD 95 USDPrecios de terror: −20 % hasta el 31 de octubre
Esta lección es parte de la Escuela de Inteligencia Artificial: todas sus rutas durante 12 meses, a tu ritmo y con certificado.