Freebie Binder: ¿Cómo moderar fotos con Amazon Rekognition?
Cómo uso DetectModerationLabels para revisar cada foto antes de publicarla en una app de fans: qué categorías bloqueo, por qué uso un umbral de 60 y dónde va la revisión en el flujo con S3 y Lambda.
¿Te gusta el k-pop? Si es así, es probable que conozcas a BTS. Una amiga intentó conseguir entradas para su concierto en Perú, pero no lo logró, así que viajó a Chile para verlos.
Mientras preparaba el viaje, me contó que en los conciertos las fans se regalan detalles hechos a mano llamados freebies, como fotocards, stickers o pulseras. Después de esa conversación, mi algoritmo en redes empezó a mostrarme videos de cómo los repartían, y en varios las chicas decían que ya no recordaban quién les había dado cada uno.
Me pareció un problema que se podía resolver con algo simple: que cada freebie llevara el nombre de quien lo regala. Así que antes de los conciertos me animé a hacer Freebie Binder. Cada persona sube la foto de su freebie y comparte un QR, y quien lo recibe lo escanea para guardarlo en su binder junto con el nombre de quien se lo dio.
Como cualquiera podía subir fotos y otras personas iban a verlas, quise agregarle una capa de seguridad para evitar fotos inapropiadas. Para eso usé Amazon Rekognition, y en este post te cuento cómo lo conecté y qué decidí bloquear. Todo el código está en codeanding/freebie-binder , por si quieres desplegarlo en tu cuenta.

¿Cómo funciona Freebie Binder?
Antes de entrar a Rekognition, vale la pena ver cómo está armada la app, porque la revisión depende de por dónde pasa cada foto:

- Clerk maneja el login.
- CloudFront es la puerta de entrada: entrega los archivos estáticos (JS, CSS, íconos) desde un bucket de S3 y manda el resto a Lambda.
- Lambda corre el servidor de Next.js: páginas dinámicas y server actions. Aquí pasa todo lo que el navegador no debe hacer, como firmar subidas, leer el bucket privado y llamar a Rekognition.
- DynamoDB guarda los perfiles, los freebies y la reserva de cada subida.
- S3
Uploadses el bucket privado donde el celular sube la foto. Nadie la puede leer desde afuera.
- Amazon Rekognition revisa la foto, y el texto escrito sobre ella, antes de publicarla.
- S3
Imageses el bucket público. Solo el servidor escribe aquí, después de la revisión.
Toda la app la desplegué con SST , que usa OpenNext por dentro para llevar Next.js a Lambda. ¿Por qué Lambda? Porque cobra por invocación, y eso encaja con un tráfico que se concentra en las noches de concierto. Y para que la primera visita no espere un arranque en frío, SST mantiene tres instancias activas con su opción
warm .Con esas piezas, una foto recorre seis pasos desde que sale del celular hasta que otras fans la ven:
- La app pide permiso para subir y reserva un id en DynamoDB.
- El celular sube la foto directo al bucket privado.
- Al publicar, el servidor lee la foto y confirma que es JPEG.
- Rekognition revisa la foto y el texto que tenga encima.
- Si pasa, el servidor la copia al bucket público y guarda el freebie.
- Las demás fans ven la foto desde el bucket público.
¿Qué es Amazon Rekognition?
El paso 4 es el centro de este post. Amazon Rekognition es el servicio de AWS para analizar imágenes y video con modelos ya entrenados, y para moderar fotos usé dos de sus operaciones:
DetectModerationLabels para el contenido de la imagen y DetectText para el texto escrito encima. Empecemos por la primera.La idea es simple: le mandas una imagen JPEG o PNG y te devuelve una lista de etiquetas, como
Violence o Explicit , cada una con un nivel de confianza de 0 a 100. Esas etiquetas siguen una taxonomía de tres niveles, donde por ejemplo Explicit (nivel 1) incluye Explicit Nudity (nivel 2), y cada una trae su Name , su ParentName y su TaxonomyLevel . Rekognition solo devuelve las etiquetas; con ellas, tu código decide si la foto se publica.Si quieres probarlo antes de escribir código, la consola de Rekognition tiene una demo de moderación con imágenes de ejemplo. También puedes usar la CLI con una foto tuya:
$ aws rekognition detect-moderation-labels --image-bytes fileb://foto.jpg --min-confidence 60Conectándolo a la app
Una vez que ves cómo responde, conectarlo a la app toma poco código. En Freebie Binder, la revisión del contenido vive en dos funciones (la lista
BLOCKED la vemos en la siguiente sección):import { DetectModerationLabelsCommand, RekognitionClient } from "@aws-sdk/client-rekognition";import { AWS_REGION } from "./aws";
const rekognition = new RekognitionClient({ region: AWS_REGION });
export function isBlocked(labels: { Name?: string; ParentName?: string }[]): boolean { return labels.some((l) => BLOCKED.includes(l.Name ?? "") || BLOCKED.includes(l.ParentName ?? ""));}
export async function imageIsSafe(bytes: Uint8Array): Promise<boolean> { const res = await rekognition.send( new DetectModerationLabelsCommand({ Image: { Bytes: bytes }, MinConfidence: 60 }), ); return !isBlocked(res.ModerationLabels ?? []);}En esas funciones hay tres detalles importantes:
-
Image: { Bytes: bytes }manda los bytes que el servidor ya leyó del bucket privado, así que Rekognition nunca recibe una URL pública.
-
imageIsSafedevuelve solotrueofalse, porque a la app únicamente le importa si publica la foto o no.
-
isBlockedrevisa tantoNamecomoParentName. De esa forma, una etiqueta de nivel 2 también cuenta si su categoría de nivel 1 está bloqueada.
¿Qué categorías bloquear?
La parte que más cambia de una app a otra es la lista
BLOCKED . En Freebie Binder quedó así:const BLOCKED = [ "Explicit", "Non-Explicit Nudity of Intimate parts and Kissing", "Violence", "Visually Disturbing", "Hate Symbols", "Rude Gestures",];Todas son categorías de nivel 1. No hace falta listar las de nivel 2, porque la respuesta siempre trae la categoría de nivel 1 junto con ellas.
Como las fotos son públicas, la lista cubre desnudez, violencia, contenido perturbador, símbolos de odio y gestos ofensivos. En cambio, otras categorías de la taxonomía quedaron fuera. La tabla muestra unas y otras:
Categoría | ¿La bloqueo? | Qué incluye |
|---|---|---|
Explicit | Sí | Desnudez explícita y actividad sexual |
Non-Explicit Nudity of Intimate parts and Kissing | Sí | Desnudez parcial y besos en la boca ( Kissing on the Lips ), así que una fotocard con un beso también se bloquea |
Violence | Sí | Armas, violencia física y gráfica, autolesiones |
Visually Disturbing | Sí | Cadáveres, cuerpos desnutridos y accidentes aéreos |
Hate Symbols | Sí | Símbolos nazis, supremacistas y de grupos extremistas |
Rude Gestures | Sí | El dedo medio |
Swimwear or Underwear | No | Ropa de baño y ropa interior |
Alcohol | No | Bebidas alcohólicas y personas bebiendo |
Drugs & Tobacco | No | Pastillas y personas fumando |
Gambling | No | Juegos de casino |
Eso sí, para otra app la tabla sería distinta, así que conviene revisar la lista completa de etiquetas antes de copiar la mía.
¿Qué valor de MinConfidence usar?
¿Basta con elegir las categorías? No del todo, porque hay un segundo control:
MinConfidence , la confianza mínima que debe tener una etiqueta para aparecer en la respuesta. Este número mide qué tan seguro está el modelo de esa etiqueta, pero no indica qué parte de la imagen es inapropiada.Si no lo especificas, Rekognition devuelve etiquetas con 50 o más. Según la documentación, bajar de 50 da más falsos positivos y subir da menos.
Freebie Binder usa 60, un poco por encima del valor por defecto. Aquí hay que tener cuidado con la dirección del número: un valor más alto hace que Rekognition devuelva menos etiquetas y, por lo tanto, que se bloquee menos. Entonces, si tu prioridad es que no pase nada inapropiado, bájalo; y si te preocupan los bloqueos de fotos inocentes, súbelo.
¿Y el texto escrito sobre la foto?
Una fotocard puede tener un teléfono o un usuario de WhatsApp escrito encima, y
DetectModerationLabels no lee texto. Para eso está DetectText , otra operación de Rekognition que devuelve las líneas y palabras que encuentra en la imagen.En Freebie Binder, las líneas con confianza de 80 o más pasan por la misma función que revisa el título y la descripción,
textIsSafe() , que bloquea links, teléfonos y nombres de apps de mensajería:export async function imageTextIsSafe(bytes: Uint8Array): Promise<boolean> { const res = await rekognition.send(new DetectTextCommand({ Image: { Bytes: bytes } })); const lines = (res.TextDetections ?? []) .filter((t) => t.Type === "LINE" && (t.Confidence ?? 0) >= 80) .map((t) => t.DetectedText ?? ""); return textIsSafe(...lines);}¿Funciona? Lo probé con una fotocard de demo que tenía "WhatsApp 987 654 321" escrito encima, y la app la rechazó con el mismo mensaje que usa para el formulario. La misma foto sin el texto se publicó sin problema.
Eso sí, la regla de teléfonos busca siete o más dígitos seguidos, así que una fecha como 2026.11.16 escrita en la fotocard también se bloquea.
¿En qué momento se revisa la foto?
Hasta aquí vimos qué revisa Rekognition. Pero ¿cómo evitas que una foto se vea antes de pasar la revisión? Para eso la app usa dos buckets.
Primero, el navegador convierte la foto a JPEG con un canvas y la sube al bucket privado (
Uploads ) con un POST firmado, que solo acepta archivos declarados como JPEG, de hasta 2 MB, y vence a los 2 minutos. Mientras la foto está ahí, nadie puede verla desde afuera. Después, cuando la persona publica, el servidor lee los bytes, confirma que es un JPEG de verdad y se los pasa a Rekognition. Solo si pasa las dos revisiones, la copia al bucket público ( Images ). En cualquier caso, el original se borra del bucket privado.En código, la server action que publica se ve así (resumida):
const bytes = await readUpload(id);await deleteUpload(id);if (!bytes) { return { error: "image" };}const [imageOk, imageTextOk] = await Promise.all([imageIsSafe(bytes), imageTextIsSafe(bytes)]);if (!imageOk) { return { error: "moderation" };}if (!imageTextOk) { return { error: "text" };}
await publishImage(`freebies/${id}.jpg`, bytes);await createFreebie({ /* ... */ });Las dos revisiones corren en paralelo sobre los mismos bytes, así que la espera es la de la más lenta.
¿Y si Rekognition falla por un error o por throttling? En ese caso la server action falla y la foto tampoco se publica. La persona tiene que volver a subirla, pero a cambio ninguna foto queda pública sin revisar.
Permisos necesarios
Para que todo esto funcione, la Lambda solo necesita dos permisos de Rekognition, que en
sst.config.ts caben en una línea:{ actions: ["rekognition:DetectModerationLabels", "rekognition:DetectText"], resources: ["*"] },¿Qué no detecta Rekognition?
Aun con todo esto, Rekognition solo revisa lo que se ve en la imagen, y la propia documentación de AWS aclara que no es un filtro exhaustivo de contenido inapropiado. En Freebie Binder eso deja estos huecos:
- Contexto. Una foto puede estar bien según las etiquetas y aun así no corresponder. Para esos casos, cualquier persona con cuenta puede reportar un freebie, y con 3 reportes se oculta solo.
- Falsos positivos. ¿Y si Rekognition bloquea una foto inocente? Por ahora no hay apelación, así que la única opción es subir otra.
¿Y qué pasa si una foto pasa la revisión y nadie la reporta? Para eso armé un panel de moderación solo para admins. El rol vive en el
publicMetadata de mi usuario en Clerk, que solo se puede cambiar desde el backend, así que nadie puede dárselo a sí mismo desde el navegador. El servidor lo revisa antes de mostrar el panel y, si no eres admin, la página no existe. Desde ahí veo primero los freebies más reportados y puedo ocultarlos, volver a mostrarlos o, una vez ocultos, eliminarlos.export async function requireAdmin() { const { userId } = await auth(); if (!userId) { redirect("/sign-in"); } const user = await (await clerkClient()).users.getUser(userId); if (user.publicMetadata?.role !== "admin") { notFound(); } return { id: userId };}
Panel con datos de demo.
¿Cuánto cuesta?
Freebie Binder hace dos llamadas por foto, y tanto
DetectModerationLabels como DetectText están en el Group 2 de las APIs de imagen. La capa gratuita de 12 meses incluye 1000 imágenes al mes en ese grupo, y después los ejemplos de la página de precios usan USD 0.001 por imagen en el primer millón. Con dos llamadas, cada foto cuesta el doble, pero para una app de fans en unos pocos conciertos sigue siendo poco.Los precios cambian según la región, y desde el 15 de julio de 2025 las cuentas nuevas reciben la capa gratuita como créditos.
¿Cómo lo pruebo en mi cuenta?
Si quieres desplegarlo, necesitas una cuenta de AWS con la CLI configurada y una app en Clerk:
$ git clone https://github.com/codeanding/freebie-binder.git$ cd freebie-binder$ pnpm install$ cp .env.example .env.local # tus llaves de Clerk$ pnpm run deploy devAl terminar, SST muestra la URL de CloudFront de tu app. Para verificar la moderación, sube una foto normal y otra con un teléfono escrito encima: la primera se publica y la segunda se rechaza. Para entrar al panel, agrega
{ "role": "admin" } en el Public metadata de tu usuario desde el dashboard de Clerk.Y cuando termines, borras todo con:
$ npx sst remove --stage devEl README tiene el detalle de las variables para producción, el dominio propio y los costos.
En cuanto a mi amiga, usó Freebie Binder en Chile y volvió con muy buenos freebies
¡Nos leemos pronto!
¿Tienes más preguntas? Déjalas en los comentarios.
Recursos
Enjoyed reading this content? Let the author know!
Your likes, comments, shares, and saves help creators reach more builders.
Loading recommendations
Loading article