Description
Le pediste al agente que mergeara el pull request y te dijo, con el mismo tono tranquilo que usa para todo, que ya estaba. No estaba. El PR seguía abierto, el número de ticket que citó no existía, y el estado que reportó salía de una consulta que nunca corrió. Un modelo de lenguaje está hecho para producir continuaciones plausibles, no para separar lo que verificó de lo que supuso, así que dale herramientas y datos reales y va a afirmar estados que nunca leyó, inventar identificadores con la forma exacta, y reportar acciones que nunca hizo, todo con la misma seguridad. Pedirle en el prompt que ‘no alucine’ es una promesa blanda. Lo que falta es una arquitectura que ate cada afirmación a datos reales traídos durante el turno.
Esta guía te muestra cómo diseñar agentes de IA que resisten la información fabricada, con defensas que viven en la arquitectura y no en la buena voluntad del modelo. Un modelo no miente: hace lo que fue entrenado para hacer (producir texto plausible) y, cuando le falta un dato, igual responde con el mismo tono seguro, inventando hechos, identificadores o acciones que nunca ejecutó. Pedirle en el prompt que ‘no alucine’ es una garantía blanda. La estrategia del libro toma prestado un principio que las organizaciones serias usan hace siglos para que nadie reporte información falsa y lo traduce a arquitectura de agentes: separar a quien hace el trabajo de quien lo verifica, exigir evidencia para cada afirmación, y diseñar las herramientas y los prompts para que fabricar sea difícil en lugar de fácil. No es teoría: salís con patrones concretos, reglas listas para pegar en tus instrucciones y una implementación de referencia en Python. Para ingenieros que construyen agentes con acceso a herramientas y datos reales y necesitan que solo digan lo que pueden probar.
¿Este libro es para vos?
Esta guía es para: ingenieros que construyen agentes de IA con acceso a herramientas y datos reales, y necesitan que el agente solo afirme lo que puede verificar en vez de inventar hechos, identificadores o acciones que nunca ocurrieron.
El sistema que vas a aprender
Las 5 claves para volverte el ingeniero al que le confían poner IA frente a los usuarios. La arquitectura que hace que un agente de IA solo afirme lo que puede probar. En vez de pedirle al modelo en el prompt que “no alucine”, instalás un stack de controles independientes, tomados de cómo los bancos y los hospitales evitan que alguien reporte información falsa, para que fabricar se vuelva difícil en vez de fácil y cada respuesta se rastree hasta datos reales. Pasás de un agente que inventa hechos, identificadores y acciones con seguridad a uno que solo dice lo que puede respaldar.
Todos los capítulos, uno por uno
- Capítulo 1: El agente dijo que había mergeado el pull request. Nunca lo hizo
- Capítulo 2: Lo que hacen los bancos y los hospitales que tu agente no hace
- Capítulo 3: Por qué el agente que hace el trabajo nunca debería aprobarlo
- Capítulo 4: Los cinco chequeos que atrapan una respuesta inventada
- Capítulo 5: Atrapar la fabricación sin gastar un solo token
- Capítulo 6: Cada tool call es una oportunidad para inventar un valor
- Capítulo 7: Por qué un string suelto es una puerta abierta a la invención
- Capítulo 8: El ejemplo en tu prompt le está enseñando al modelo a inventar
- Capítulo 9: La línea entre un prompt que inventa y uno que no
- Capítulo 10: Cinco reglas para pegar en cualquier prompt que toque datos
- Capítulo 11: Convertir el patrón en código que podés correr de verdad
- Capítulo 12: Armar todo en Python con ADK
- Capítulo 13: El checklist para correr antes de que tu agente llegue a producción
