Cómo hacer que un LLM deje de inventar cosas

El problema más grande de usar LLMs en producción no es que sean lentos o caros.

Es que mienten con confianza.

Le pedís que calcule algo y te devuelve un número que parece correcto. A veces lo es. A veces no. Y no te avisa cuándo se equivoca. La idea que mejor nos funcionó: no le pidas al modelo que haga la parte crítica.

→ Separar la lógica del lenguaje

Si hay cálculos o reglas donde el resultado tiene que ser exacto, sacá esa lógica del modelo. Ponela en funciones puras y testeadas. El LLM se encarga de lo que hace bien: interpretar intención y componer flujos.

→ Darle herramientas, no responsabilidades

En vez de pedirle al agente que calcule, dale una herramienta que calcule por él. El modelo decide cuándo llamarla. La función decide el resultado.

→ Verificar contra la fuente

Después de generar algo, el agente tiene que validar su output contra una fuente canónica. Si no coincide, se corrige antes de que el usuario lo vea.

En resumen:

✅ Creatividad del modelo → composición y UX
✅ Lógica crítica → código determinístico
✅ El agente usa herramientas, no improvisa
✅ Siempre hay verificación automática