IA Generativa, infraestructura, límites y riesgos - AI Practitioner Certification #4

Contexto
Saber qué puede generar un modelo es solo la primera capa del conocimiento. El verdadero desafío para un especialista certificado consiste en decidir cuándo conviene utilizar IA Generativa frente a Machine Learning tradicional, cómo orquestar agentes autónomos de forma segura y qué modelo de infraestructura en AWS garantiza la viabilidad financiera del proyecto.

🔑 Conceptos Clave

🤖 Agentic AI, Sistemas Multi-Agente, Memoria y MCP

• Agentic AI: A diferencia de un chatbot tradicional que solo responde preguntas, un agente de IA utiliza un Foundation Model como motor de razonamiento para planificar y ejecutar tareas de varios pasos utilizando herramientas externas, memoria y sistemas.
• Sistemas Multi-Agente y Patrones: El trabajo complejo se distribuye entre agentes especializados (ej. Investigador → Analista → Redactor → Verificador). Se comunican mediante patrones Jerárquicos (un coordinador dirige), En cadena (la salida de uno es la entrada de otro) o En red (comunicación directa).
• Memoria: La memoria de corto plazo conserva contexto durante una tarea o interacción; la memoria de largo plazo conserva información entre diferentes sesiones.
• Tool Use vs. MCP: Tool use es la capacidad intrínseca del agente para llamar funciones, bases de datos o APIs. Model Context Protocol (MCP) es el protocolo estándar y abierto que define cómo conectar a los agentes con esos sistemas externos de forma consistente.

💡 Analogía

• Agentic AI: Un asistente ejecutivo autónomo al que le pides coordinar una conferencia y se encarga de llamar al hotel, reservar las salas y enviar las invitaciones.
• Tool Use: La habilidad del asistente para marcar números telefónicos o enviar correos.
• MCP: El enchufe eléctrico o conector universal estandarizado que permite que el teléfono del asistente se conecte a cualquier red telefónica del mundo sin importar el país.

⚖️ ML Tradicional vs. Foundation Models — ¿Cuándo elegir cuál?

• Preferir ML Tradicional: Cuando se requiere alta explicabilidad, cumplimiento de regulaciones estrictas, tareas repetitivas y claramente definidas, máxima eficiencia de costo a gran escala o fuertes restricciones de latencia y cómputo.
• Preferir Foundation Models: Cuando se busca resolver diferentes tareas con un mismo modelo, trabajar con lenguaje natural, generar contenido nuevo o desarrollar rápidamente sin entrenar un modelo específico para cada tarea.

💡 Analogía

• ML Tradicional: Una troqueladora industrial programada para cortar exactamente millones de tapas de botella al día: es ultrarrápida, barata, exacta y nunca falla.
• Foundation Model: Un artesano multitarea al que puedes pedirle que escriba un poema, diseñe un mueble o traduzca una carta. Es increíblemente versátil, pero resultaría ridículamente caro e ineficiente contratarlo para cortar tapas de botella todo el día.

⚠️ Riesgos y Limitaciones Intrínsecas de GenAI

• Alucinaciones: Generación de información falsa expuesta con lenguaje extremadamente convincente porque el modelo busca continuaciones probables, no verificación de hechos.
• Interpretabilidad limitada (Black Box): Dificultad para rastrear exactamente cómo llegó internamente a una respuesta determinada.
• No-determinismo: El mismo prompt puede producir respuestas diferentes en ejecuciones distintas.

📌 Atención: Si un escenario exige resultados exactos, 100% reproducibles y completamente auditables, la IA Generativa NO es la primera opción.

💡 Analogía

☁️ Modelos de Despliegue — Managed API vs. Self-hosted API

• Managed API Service (ej. Amazon Bedrock): El proveedor administra y escala la infraestructura; la organización simplemente consume el modelo a través de llamadas a una API. Ventaja: Menor carga operativa e implementación rápida.
• Self-hosted API (ej. Amazon SageMaker AI): La organización despliega el modelo sobre infraestructura que configura, escala y controla directamente (contenedores, GPUs, SO). Ventaja: Mayor flexibilidad y control total, pero con mayor responsabilidad operativa.

💡 Analogía

• Managed API (Bedrock): Viajar en taxi o Uber. No te preocupas por cambiar el aceite, reparar la transmisión ni pagar el seguro del coche; solo pagas por la carrera y llegas a tu destino.
• Self-hosted API (SageMaker): Comprar tu propio automóvil de carreras. Tienes el control total para modificar el motor y la suspensión como quieras, pero tú eres responsable de la gasolina, los mecánicos y el mantenimiento constante.

💰 Estrategias de Precios en Bedrock — On-demand vs. Provisioned Throughput

• On-demand: Pagas estrictamente por el consumo utilizado (tokens procesados). Es la mejor alternativa cuando el tráfico es impredecible o variable.
• Provisioned Throughput: Reservas capacidad de procesamiento dedicada previamente. Es conveniente cuando tienes tráfico alto, sostenido y constante, o cuando necesitas latencia y capacidad garantizadas.

💡 Analogía

• On-demand: Pagar la luz de tu casa según los kilovatios que consumas mes a mes. Si te vas de vacaciones, no pagas casi nada.
• Provisioned Throughput: Alquilar una planta eléctrica privada exclusiva para tu fábrica las 24 horas del día. Pagas una renta fija mensual, pero garantizas que las máquinas nunca se queden sin energía durante picos de trabajo pesado.

☁️ Entonces, ¿Cómo nos ayuda AWS en esto?

🛠️ Servicios y Herramientas

• Amazon SageMaker JumpStart: Catálogo que proporciona acceso a modelos preentrenados que pueden desplegarse o personalizarse directamente dentro del ecosistema de SageMaker AI.
• Strands Agents: Toolkit de código abierto (open source) diseñado para construir y operar agentes de IA desde la fase de desarrollo.
• Amazon Bedrock AgentCore: Infraestructura administrada diseñada para desplegar, operar y escalar agentes de IA en entornos de producción de forma segura.
• Amazon Q: Familia de asistentes generativos de AWS orientada a mejorar la productividad y el desarrollo de software.
• Kiro: Herramienta de desarrollo de software basada en agentes que utiliza un enfoque de spec-driven development (desarrollo guiado por especificaciones).