Diseño y Prompt Engineering - AI Practitioner Certification #5
En este artículo utilizo la Técnica Feynman para desglosar de manera sencilla y profunda los pilares fundamentales del Prompt Engineering, lo cual ayudará en la preparación de forma sólida para la certificación AWS Certified AI Practitioner.
Series: Hacia la certificación AWS AI Practitioner (6 articles)
- …
- 5Diseño y Prompt Engineering - AI Practitioner Certification #5 This article
🎯 Contexto Saber qué es un Foundation Model es solo el comienzo; el verdadero reto de ingeniería consiste en saber cuál seleccionar, cómo adaptar su comportamiento y cómo comunicarte con él de forma segura y costo-eficiente.
En la nube de AWS, no existe un modelo que sea universalmente "el mejor". Elegir entre RAG, Fine-tuning o Prompt Engineering es una decisión simultáneamente técnica y de negocio que impacta directamente en la factura, la latencia y la seguridad de la organización. Esta guía te enseñará a estructurar el diseño de aplicaciones generativas, dominar las técnicas de prompt engineering, proteger tus sistemas contra ataques maliciosos y aprovechar la infraestructura administrada de AWS.
🔑 Conceptos Clave
ESPECTRO DE PERSONALIZACIÓN DE MODELOS
Menor Costo/Esfuerzo ─────────────────────────────────────────► Mayor Costo/Esfuerzo[ In-Context Learning ] ──► [ RAG ] ──► [ Fine-Tuning ] ──► [ Distillation ] ──► [ Pre-Training ] (In-Prompt / No Mod) (Información) (Comportamiento) (Maestro/Est.) (Desde Cero)🎚️ El Espectro de Personalización — ¿RAG, Fine-Tuning o Prompting?
🧠 Lo que debes entender realmente: No todas las necesidades requieren modificar o reentrenar un modelo. Las estrategias de adaptación forman una escala de costo, esfuerzo y nivel de personalización:
- In-Context Learning: Proporciona instrucciones o ejemplos directamente en el prompt. No modifica el modelo ni requiere reentrenamiento. Es rápido y económico.
- RAG (Retrieval-Augmented Generation): Inyecta información externa, privada o en tiempo real durante la inferencia como contexto. Úsalo cuando: necesites que el modelo conozca datos cambiantes o privados sin alterar sus parámetros.
- Fine-Tuning: Ajusta un modelo preentrenado con un dataset especializado. Úsalo cuando: necesites cambiar de forma consistente el estilo, tono, comportamiento o formato de salida.
- Model Distillation: Utiliza un modelo grande (teacher/maestro) para entrenar a uno más pequeño (student/estudiante). Reduce costos y latencia en producción a gran escala.
- Pre-Training: Entrenar un modelo fundacional desde cero. Es la opción de mayor costo, tiempo y complejidad.
💡 Analogía
- In-Context Learning: Entregarle una hoja de instrucciones rápida a un mesero antes de que empiece su turno.
- RAG: Darle al mesero la carta del día con los platillos que el chef acaba de preparar.
- Fine-Tuning: Enviar al mesero a un curso intensivo de etiqueta para que hable siempre con un tono formal de alta alcurnia.
- Model Distillation: Que el mesero estrella capacite a un aprendiz júnior para que atienda las mesas sencillas con la misma calidad pero cobrando un sueldo menor.
📌 Regla de Oro: Más personalización no significa mejor solución. Si el problema se resuelve con Prompting o RAG, evita asumir la complejidad y costo de modificar el modelo.
🔎 Arquitectura RAG, Amazon Bedrock Knowledge Bases y Almacenamiento Vectorial
🧠 Lo que debes entender realmente: Los Foundation Models no conocen información privada ni actualizada de tu empresa. RAG resuelve esto recuperando información relevante e integrándola en el prompt.
Flujo de RAG: Documentos → Chunks → Embeddings → Vector Store → Búsqueda Semántica → Contexto en Prompt → Modelo → Respuesta.
- Amazon Bedrock Knowledge Bases: Servicio que automatiza todo el pipeline de RAG (chunking, generación de embeddings, almacenamiento e indexación) sin tener que implementar manualmente cada componente.
- Bases de datos vectoriales en AWS: Para almacenar y consultar estos embeddings por similitud semántica, puedes usar:
- Amazon OpenSearch Service: Opción muy frecuente para análisis y búsqueda vectorial a gran escala.
- Amazon Aurora y RDS for PostgreSQL: Permiten búsquedas vectoriales (ej. usando pgvector) en bases de datos relacionales existentes.
- Amazon Neptune: Base de datos de grafos con soporte vectorial, ideal cuando el problema involucra relaciones complejas entre entidades.
⚠️ Ojo para el examen: RAG reduce las alucinaciones, pero no las elimina por completo; el modelo aún puede interpretar incorrectamente la información recuperada.
⚖️ Criterios de Selección de Modelos y Parámetros de Inferencia
🧠 Lo que debes entender realmente: Seleccionar un modelo no es elegir el "más grande", sino equilibrar criterios técnicos y de negocio:
- Criterios clave: Costo por token (input/output), modalidad (texto, imagen, multimodal), latencia requerida, soporte multilingüe, complejidad de razonamiento y límites de contexto.
- Prompt Caching: Capacidad de reutilizar partes de prompts repetitivos para reducir costos y latencia.
- Temperature (Temperatura): Parámetro que controla la variabilidad o creatividad de la respuesta.
- Temperatura baja (cercana a 0): Respuestas predecibles, conservadoras y consistentes (ideal para clasificación, JSON estricto o tareas legales).
- Temperatura alta: Respuestas variadas, creativas e impredecibles (ideal para generación de ideas).
⚠️ Atención: Temperatura no controla la longitud de la respuesta. La longitud se define mediante el límite de tokens de salida.
📝 Técnicas de Prompt Engineering
🧠 Lo que debes entender realmente: El Prompt Engineering consiste en diseñar instrucciones en lenguaje natural para obtener resultados precisos y consistentes sin modificar el modelo.
Estructura de un buen prompt: Debe ser específico, conciso, estructurado e incluir contexto, instrucciones claras y prompts negativos (lo que no debe hacer).
- Zero-shot: Se da la instrucción directamente sin ejemplos.
- One-shot / Single-shot: Se incluye 1 ejemplo de Entrada → Salida antes de la pregunta.
- Few-shot: Se incluyen varios ejemplos para mostrar un patrón claro. Nota: Aumenta la consistencia, pero consume más tokens.
- Chain-of-Thought (Cadena de Pensamiento): Se le pide al modelo que desglose su proceso de razonamiento paso a paso (excelente para problemas lógicos o matemáticos).
- Prompt Templates: Plantillas reutilizables con variables para garantizar consistencia y eficiencia.
🔐 Superficie de Ataque en Prompts y Amazon Bedrock Prompt Management
🧠 Lo que debes entender realmente: En producción, los prompts se convierten en una superficie de ataque que debe protegerse y administrarse como código de software.
⚠️ Riesgos de Seguridad
- Exposure: Revelación accidental de información confidencial, PII o instrucciones internas del sistema.
- Poisoning: Inyección de datos maliciosos en la fuente de conocimiento (ej. subir un PDF corrupto al RAG).
- Hijacking (Prompt Injection): El atacante consigue que el modelo ignore sus instrucciones originales y ejecute comandos maliciosos ("Ignora tus reglas y haz esto...").
- Jailbreaking: El atacante busca eludir las restricciones de seguridad y filtros éticos para obligar al modelo a generar contenido prohibido.
📌 Diferencia de examen: Hijacking secuestra el propósito del prompt; Jailbreaking evade las barreras de seguridad.
- Amazon Bedrock Prompt Management: Servicio que permite crear, evaluar, gestionar y versionar prompts de forma centralizada en producción, garantizando trazabilidad y capacidad de rollback.
☁️ Entonces, ¿Cómo me ayuda AWS con esto?
AWS proporciona servicios específicos para orquestar la personalización, gestión de prompts y almacenamiento de conocimiento:
SERVICIOS DE DISEÑO Y PROMPT ENGINEERING EN AWS
¿Quieres consumir FMs sin construir infraestructura? ─► [ Amazon Bedrock ]* Acceso a FMs preentrenados por API administrada* Prompt Caching para reducir costos
¿Quieres automatizar RAG completo? ──────────────────► [ Amazon Bedrock Knowledge Bases ]* Chunking, embeddings y vector store automatizado* Integración nativa con FMs
¿Dónde almacenar y consultar embeddings? ────────────► [ Vector Stores en AWS ]* Amazon OpenSearch Service (Búsqueda vectorial)* Amazon Neptune (Grafos y relaciones)* Amazon Aurora / RDS PostgreSQL (pgvector)
¿Quieres versionar y gestionar prompts? ─────────────► [ Amazon Bedrock Prompt Management ]* Trazabilidad, pruebas y control de versiones* Gestión centralizada en producción☁️ Amazon Bedrock
- Amazon Bedrock: Permite acceder a Foundation Models preentrenados de múltiples proveedores mediante una API administrada, eliminando la complejidad técnica de la infraestructura. Soporta características como Prompt Caching para reutilizar contextos repetitivos.
- Amazon Bedrock Knowledge Bases: Automatiza la implementación de RAG gestionando el pipeline de fragmentación, conversión a embeddings, almacenamiento vectorial y recuperación semántica de contexto.
- Amazon Bedrock Prompt Management: Facilita la creación, experimentación, versionado (v1 → v2) y despliegue centralizado de plantillas de prompts.
📐 Bases de Datos Vectoriales
- Amazon OpenSearch Service: Búsqueda distribuida y vectorial.
- Amazon RDS for PostgreSQL / Aurora: Búsqueda vectorial mediante extensiones como pgvector.
- Amazon Neptune: Adecuado cuando el problema involucra redes complejas de entidades y relaciones.
Series: Hacia la certificación AWS AI Practitioner (6 articles)
- …
- 5Diseño y Prompt Engineering - AI Practitioner Certification #5 This article
Enjoyed reading this content? Let the author know!
Your likes, comments, shares, and saves help creators reach more builders.
Loading recommendations
Loading article