AWS Builder Center

Diseño y Prompt Engineering - AI Practitioner Certification #5

En este artículo utilizo la Técnica Feynman para desglosar de manera sencilla y profunda los pilares fundamentales del Prompt Engineering, lo cual ayudará en la preparación de forma sólida para la certificación AWS Certified AI Practitioner.

Series: Hacia la certificación AWS AI Practitioner (6 articles)

  1. …
  2. 5
    Diseño y Prompt Engineering - AI Practitioner Certification #5 This article
Full-stack Engineer
🎯 Contexto Saber qué es un Foundation Model es solo el comienzo; el verdadero reto de ingeniería consiste en saber cuál seleccionar, cómo adaptar su comportamiento y cómo comunicarte con él de forma segura y costo-eficiente.
En la nube de AWS, no existe un modelo que sea universalmente "el mejor". Elegir entre RAG, Fine-tuning o Prompt Engineering es una decisión simultáneamente técnica y de negocio que impacta directamente en la factura, la latencia y la seguridad de la organización. Esta guía te enseñará a estructurar el diseño de aplicaciones generativas, dominar las técnicas de prompt engineering, proteger tus sistemas contra ataques maliciosos y aprovechar la infraestructura administrada de AWS.

🔑 Conceptos Clave

ESPECTRO DE PERSONALIZACIÓN DE MODELOS

Menor Costo/Esfuerzo ─────────────────────────────────────────► Mayor Costo/Esfuerzo
[ In-Context Learning ] ──► [ RAG ] ──► [ Fine-Tuning ] ──► [ Distillation ] ──► [ Pre-Training ]
(In-Prompt / No Mod) (Información) (Comportamiento) (Maestro/Est.) (Desde Cero)

🎚️ El Espectro de Personalización — ¿RAG, Fine-Tuning o Prompting?

🧠 Lo que debes entender realmente: No todas las necesidades requieren modificar o reentrenar un modelo. Las estrategias de adaptación forman una escala de costo, esfuerzo y nivel de personalización:
  • In-Context Learning: Proporciona instrucciones o ejemplos directamente en el prompt. No modifica el modelo ni requiere reentrenamiento. Es rápido y económico.
  • RAG (Retrieval-Augmented Generation): Inyecta información externa, privada o en tiempo real durante la inferencia como contexto. Úsalo cuando: necesites que el modelo conozca datos cambiantes o privados sin alterar sus parámetros.
  • Fine-Tuning: Ajusta un modelo preentrenado con un dataset especializado. Úsalo cuando: necesites cambiar de forma consistente el estilo, tono, comportamiento o formato de salida.
  • Model Distillation: Utiliza un modelo grande (teacher/maestro) para entrenar a uno más pequeño (student/estudiante). Reduce costos y latencia en producción a gran escala.
  • Pre-Training: Entrenar un modelo fundacional desde cero. Es la opción de mayor costo, tiempo y complejidad.

💡 Analogía

  • In-Context Learning: Entregarle una hoja de instrucciones rápida a un mesero antes de que empiece su turno.
  • RAG: Darle al mesero la carta del día con los platillos que el chef acaba de preparar.
  • Fine-Tuning: Enviar al mesero a un curso intensivo de etiqueta para que hable siempre con un tono formal de alta alcurnia.
  • Model Distillation: Que el mesero estrella capacite a un aprendiz júnior para que atienda las mesas sencillas con la misma calidad pero cobrando un sueldo menor.
📌 Regla de Oro: Más personalización no significa mejor solución. Si el problema se resuelve con Prompting o RAG, evita asumir la complejidad y costo de modificar el modelo.


🔎 Arquitectura RAG, Amazon Bedrock Knowledge Bases y Almacenamiento Vectorial

🧠 Lo que debes entender realmente: Los Foundation Models no conocen información privada ni actualizada de tu empresa. RAG resuelve esto recuperando información relevante e integrándola en el prompt.
Flujo de RAG: Documentos → Chunks → Embeddings → Vector Store → Búsqueda Semántica → Contexto en Prompt → Modelo → Respuesta.
  • Amazon Bedrock Knowledge Bases: Servicio que automatiza todo el pipeline de RAG (chunking, generación de embeddings, almacenamiento e indexación) sin tener que implementar manualmente cada componente.
  • Bases de datos vectoriales en AWS: Para almacenar y consultar estos embeddings por similitud semántica, puedes usar:
  • Amazon OpenSearch Service: Opción muy frecuente para análisis y búsqueda vectorial a gran escala.
  • Amazon Aurora y RDS for PostgreSQL: Permiten búsquedas vectoriales (ej. usando pgvector) en bases de datos relacionales existentes.
  • Amazon Neptune: Base de datos de grafos con soporte vectorial, ideal cuando el problema involucra relaciones complejas entre entidades.
⚠️ Ojo para el examen: RAG reduce las alucinaciones, pero no las elimina por completo; el modelo aún puede interpretar incorrectamente la información recuperada.


⚖️ Criterios de Selección de Modelos y Parámetros de Inferencia

🧠 Lo que debes entender realmente: Seleccionar un modelo no es elegir el "más grande", sino equilibrar criterios técnicos y de negocio:
  • Criterios clave: Costo por token (input/output), modalidad (texto, imagen, multimodal), latencia requerida, soporte multilingüe, complejidad de razonamiento y límites de contexto.
  • Prompt Caching: Capacidad de reutilizar partes de prompts repetitivos para reducir costos y latencia.
  • Temperature (Temperatura): Parámetro que controla la variabilidad o creatividad de la respuesta.
  • Temperatura baja (cercana a 0): Respuestas predecibles, conservadoras y consistentes (ideal para clasificación, JSON estricto o tareas legales).
  • Temperatura alta: Respuestas variadas, creativas e impredecibles (ideal para generación de ideas).

⚠️ Atención: Temperatura no controla la longitud de la respuesta. La longitud se define mediante el límite de tokens de salida.


📝 Técnicas de Prompt Engineering

🧠 Lo que debes entender realmente: El Prompt Engineering consiste en diseñar instrucciones en lenguaje natural para obtener resultados precisos y consistentes sin modificar el modelo.
Estructura de un buen prompt: Debe ser específico, conciso, estructurado e incluir contexto, instrucciones claras y prompts negativos (lo que no debe hacer).
  • Zero-shot: Se da la instrucción directamente sin ejemplos.
  • One-shot / Single-shot: Se incluye 1 ejemplo de Entrada → Salida antes de la pregunta.
  • Few-shot: Se incluyen varios ejemplos para mostrar un patrón claro. Nota: Aumenta la consistencia, pero consume más tokens.
  • Chain-of-Thought (Cadena de Pensamiento): Se le pide al modelo que desglose su proceso de razonamiento paso a paso (excelente para problemas lógicos o matemáticos).
  • Prompt Templates: Plantillas reutilizables con variables para garantizar consistencia y eficiencia.

🔐 Superficie de Ataque en Prompts y Amazon Bedrock Prompt Management

🧠 Lo que debes entender realmente: En producción, los prompts se convierten en una superficie de ataque que debe protegerse y administrarse como código de software.

⚠️ Riesgos de Seguridad

  • Exposure: Revelación accidental de información confidencial, PII o instrucciones internas del sistema.
  • Poisoning: Inyección de datos maliciosos en la fuente de conocimiento (ej. subir un PDF corrupto al RAG).
  • Hijacking (Prompt Injection): El atacante consigue que el modelo ignore sus instrucciones originales y ejecute comandos maliciosos ("Ignora tus reglas y haz esto...").
  • Jailbreaking: El atacante busca eludir las restricciones de seguridad y filtros éticos para obligar al modelo a generar contenido prohibido.
📌 Diferencia de examen: Hijacking secuestra el propósito del prompt; Jailbreaking evade las barreras de seguridad.

  • Amazon Bedrock Prompt Management: Servicio que permite crear, evaluar, gestionar y versionar prompts de forma centralizada en producción, garantizando trazabilidad y capacidad de rollback.

☁️ Entonces, ¿Cómo me ayuda AWS con esto?

AWS proporciona servicios específicos para orquestar la personalización, gestión de prompts y almacenamiento de conocimiento:
SERVICIOS DE DISEÑO Y PROMPT ENGINEERING EN AWS

¿Quieres consumir FMs sin construir infraestructura? ─► [ Amazon Bedrock ]
* Acceso a FMs preentrenados por API administrada
* Prompt Caching para reducir costos

¿Quieres automatizar RAG completo? ──────────────────► [ Amazon Bedrock Knowledge Bases ]
* Chunking, embeddings y vector store automatizado
* Integración nativa con FMs

¿Dónde almacenar y consultar embeddings? ────────────► [ Vector Stores en AWS ]
* Amazon OpenSearch Service (Búsqueda vectorial)
* Amazon Neptune (Grafos y relaciones)
* Amazon Aurora / RDS PostgreSQL (pgvector)

¿Quieres versionar y gestionar prompts? ─────────────► [ Amazon Bedrock Prompt Management ]
* Trazabilidad, pruebas y control de versiones
* Gestión centralizada en producción

☁️ Amazon Bedrock

  • Amazon Bedrock: Permite acceder a Foundation Models preentrenados de múltiples proveedores mediante una API administrada, eliminando la complejidad técnica de la infraestructura. Soporta características como Prompt Caching para reutilizar contextos repetitivos.
  • Amazon Bedrock Knowledge Bases: Automatiza la implementación de RAG gestionando el pipeline de fragmentación, conversión a embeddings, almacenamiento vectorial y recuperación semántica de contexto.
  • Amazon Bedrock Prompt Management: Facilita la creación, experimentación, versionado (v1 → v2) y despliegue centralizado de plantillas de prompts.

📐 Bases de Datos Vectoriales

  • Amazon OpenSearch Service: Búsqueda distribuida y vectorial.
  • Amazon RDS for PostgreSQL / Aurora: Búsqueda vectorial mediante extensiones como pgvector.
  • Amazon Neptune: Adecuado cuando el problema involucra redes complejas de entidades y relaciones.

Series: Hacia la certificación AWS AI Practitioner (6 articles)

  1. …
  2. 5
    Diseño y Prompt Engineering - AI Practitioner Certification #5 This article
Any opinions in this article are those of the individual author and may not reflect the opinions of AWS.
Enjoyed reading this content? Let the author know!

Your likes, comments, shares, and saves help creators reach more builders.

Loading recommendations

Loading article