AWS Builder Center

Por qué escalar tu app por CPU no alcanza

Por qué el HPA mirando la CPU llega tarde en apps web que esperan a la base, por qué no baja de 1 réplica y qué son las métricas de negocio. Parte 1 de la serie de mi charla en el AWS Student Community Day.

DevOps Technical Leader @ Craftech
Imaginate la inscripción a materias. A las 8 en punto entra toda la facultad a la vez, la app tarda, tira errores 502 y nadie se puede anotar. Diez minutos después no hay nadie y los servidores siguen prendidos. Escalar bien es tener los pods justos en el momento justo, sin que nadie tenga que estar mirando.
Esto salió de la charla que di en el AWS Student Community Day en la UTN FRC. Es la primera parte de una serie: acá va el problema, en las próximas cómo lo resolví con KEDA y EKS Auto Mode. Slides ->  https://lucasdevops.cloud/charlas/utn-frc-escalando-apps-http/ 

Lo mínimo de Kubernetes para entender qué escala

Tres piezas:
  • Pod: tu contenedor corriendo. Si se muere, no vuelve solo.
  • Deployment: le decís "quiero N copias de este pod". Si una se muere, crea otra ( docs ).
  • Service: un nombre fijo que reparte el tráfico entre todas las copias ( docs ).
Pod, Deployment y Service

En el repo de la demo, el Deployment de la app de votación arranca así:
apiVersion: apps/v1
kind: Deployment
metadata:
name: vote
spec:
replicas: 0 # Estado inicial de la demo; KEDA toma el control del número de réplicas
Escalar es cambiar ese  replicas . La pregunta es quién lo cambia y mirando qué.

Pocos pods o muchos pods: los dos salen mal

Pocos pods o muchos pods: los dos salen mal

Con pocos pods, llega el pico y la app se cae. Respuestas lentas, errores, y el pico dura minutos pero el enojo dura más.
Con muchos pods, pagás copias que no hacen nada. Toda la noche prendidas "por las dudas", dimensionadas para el peor día del año.
Hay dos formas de salir de esto. Vertical: un pod más grande, con más CPU y memoria. Tiene techo (el tamaño del nodo) y suele implicar reiniciar el pod. Horizontal: más pods iguales detrás del mismo Service, que suben y bajan sin cortar el servicio. Para apps web, casi siempre vas por horizontal.

El clásico: HPA mirando la CPU

Kubernetes trae el Horizontal Pod Autoscaler (HPA). Le decís "quiero la CPU al 50 %" y él ajusta las réplicas con esta cuenta ( docs ):
réplicas = ⌈ réplicas_actuales × métrica_actual / métrica_objetivo ⌉
Ejemplo: tenés 2 pods al 90 % de CPU y el objetivo es 50 %. ⌈2 × 90 / 50⌉ = ⌈3,6⌉ = 4 pods.
Funciona joya cuando tu app calcula: comprime imágenes, procesa datos, renderiza. El problema es que la mayoría de las apps web no calculan, esperan.

Dónde se queda corta la CPU

Dónde se queda corta la CPU

Llega tarde. Una app web típica pasa la mayor parte del tiempo esperando a la base de datos o a otra API. Mientras espera, la CPU está baja. Los pedidos se acumulan, los usuarios esperan, y el HPA mira la CPU y no ve nada raro. Cuando por fin sube, el pico ya te pegó.
No baja de 1. El mínimo de réplicas del HPA es 1. Bajarlo a 0 necesita activar el feature gate  HPAScaleToZero , que la  documentación  marca como alpha (revisá el estado en tu versión de Kubernetes). O sea, sin tráfico igual pagás ese pod y el nodo donde corre. En un entorno de dev o en una API interna que se usa dos horas por día, eso es plata tirada.

La idea: escalar por lo que le importa al usuario

La CPU es un síntoma. Lo que de verdad te dice si necesitás más pods es la carga del negocio:
  • un e-commerce, por pedidos o carritos por minuto;
  • un sistema de inscripción, por alumnos en la cola;
  • una app web, por los pedidos HTTP que llegan por segundo;
  • un worker, por los mensajes que tiene pendientes en la cola.
Son métricas de negocio, no de infraestructura. Si escalás mirando eso, subís cuando llega la gente y no cuando la CPU se entera. Y si no llega nadie, podés bajar a 0.
Eso es lo que hice en la demo de la charla: la app de votación escala según los pedidos por segundo y el worker según el largo de la cola de Redis, los dos con KEDA. En la parte 2 te cuento cómo funciona el HTTP Add-on de KEDA, que es el que lleva una app de 0 a N pods según los req/s.
Si querés probarlo, el repo levanta todo en minikube con un script:
Any opinions in this article are those of the individual author and may not reflect the opinions of AWS.
Enjoyed reading this content? Let the author know!

Your likes, comments, shares, and saves help creators reach more builders.

Loading recommendations

Loading article