Saltar al contenido
VECANOVA LABSCursos gratis

Ruta corta · ~26 h · a tu ritmo

Sirve LLMs en tu propia infraestructura

Corre modelos abiertos fuera de una API: Ollama, llama.cpp y cuantización, y vLLM o SGLang cuando importa la concurrencia.

Para: Desarrolladores, administradores de sistemas y equipos que quieren controlar el costo y la privacidad de sus modelos.

  • 3 cursos
  • ~26 horas
  • Texto interactivo y código
  • Proyecto final revisado

Competencias

Lo que vas a saber hacer

  • Corres modelos pequeños en local con Ollama
  • Eliges formato GGUF y nivel de cuantización según la memoria
  • Sirves modelos con vLLM o SGLang y una API compatible con OpenAI
  • Mides latencia, throughput y costo
  • Decides entre servir el modelo propio y pagar una API

Temario

3 cursos

  1. Curso 1

    Agentes en local con Ollama

    ~8 h · 4 lecciones publicadas

    • · Modelos pequeños (SLM)
    • · API local
    • · Agentes locales
    Ir al curso →
  2. Curso 2

    llama.cpp y cuantización

    ~8 h · 4 lecciones publicadas

    • · Formato GGUF
    • · Cuantización y memoria
    • · Rendimiento en CPU y GPU
    Ir al curso →
  3. Curso 3

    Servir LLMs con vLLM y SGLang

    ~10 h · 4 lecciones publicadas

    • · Servidores de inferencia
    • · Latencia, throughput y costos
    • · API compatible con OpenAI
    Ir al curso →
Proyecto final

Un mismo modelo abierto servido en tu equipo y en un servidor con GPU, con latencia y throughput medidos y la decisión justificada entre servirlo tú o pagar una API.

Credencial

Certificado VECANOVA en Inferencia de LLMs Autoalojada

Incluido, verificable con un enlace público y listo para la sección de licencias y certificaciones de LinkedIn.

Para tu hoja de vida:

Inferencia de LLMs autoalojada: Ollama, llama.cpp, GGUF y cuantización, vLLM, SGLang, latencia, throughput y costos (VECANOVA Labs).

También te puede interesar

Otras rutas de cloud, infraestructura y ciberseguridad

Especialización · abre primero

DevOps y entrega de software

Versiona, prueba y despliega software de forma automática, como lo hacen los equipos profesionales.

8 cursos · ~104 h · texto interactivo

Especialización · lista de espera

Infraestructura como código: Terraform y Ansible

Crea y configura infraestructura completa con código revisable, repetible y sin clics manuales.

5 cursos · ~62 h · texto interactivo

Especialización · lista de espera

Administración de servidores Linux

Administra servidores Linux en producción: usuarios, servicios, redes, seguridad y respaldos.

5 cursos · ~87 h · texto interactivo