¿Te puedes fiar de los cálculos de la IA?
· Toni Martir, arquitecto de software
En administración, alguien copia del programa de gestión las doscientas facturas pendientes de cobro, las pega en el asistente de IA y le pide el total. La respuesta llega al momento y con céntimos: 48.317,25 €.
Que esa cifra sea una suma depende de algo que no se ve: si la IA ha hecho la cuenta con un programa o de cabeza, escribiendo la cifra igual que escribe el resto de la respuesta. Los fabricantes distinguen una cosa de otra.
El total de las facturas pendientes: quién hace la cuenta
Un ejemplo de oficina. Las cuatro cifras salen con céntimos y con el mismo aspecto. Cambia quién ha hecho la cuenta, qué puedes revisar y sobre qué filas: lo que se pega en el chat puede no ser la lista entera.
Escribir una cifra no es calcularla
Un modelo de lenguaje, el motor de estos asistentes, se entrena para predecir la siguiente palabra a partir del texto anterior, y así escribe la respuesta: palabra a palabra. Para él, una cifra es una palabra más.
Para la aritmética simple, Anthropic deja que su modelo, Claude, conteste así. Para las cuentas largas le da una calculadora: Claude ejecuta código cuando hay «matemáticas no triviales (números grandes, muchos pasos, resultados sensibles a la precisión)» o análisis de datos. Microsoft explica que su asistente, Copilot, «puede ejecutar código para completar cálculos complejos». Sumar doscientas facturas lleva muchos pasos, y en el resultado importa cada céntimo.
Al estrenar esa calculadora en sus aplicaciones, en 2024, Anthropic prometía respuestas «matemáticamente precisas y reproducibles»: la misma cifra cada vez.
Cómo saber si ha hecho la cuenta
Primero, la herramienta de ejecutar código tiene que estar activada. Anthropic y Google la ofrecen a los programas que usan sus modelos, pero cada programa tiene que pedirla: una herramienta de IA montada sobre ellos puede no tenerla. En las aplicaciones de Claude viene activada de serie, y en los planes de empresa el propietario de la organización puede desactivarla.
Segundo, aunque esté activada, decide el modelo: Claude «evalúa si la ejecución de código ayudaría», y para los casos dudosos Anthropic aconseja pedirlo: «ejecuta código para verificar esto». El ejemplo de Google lo pide con todas las letras: «genera y ejecuta código para el cálculo, y asegúrate de que tienes los 50». Así que pídelo siempre, y que te enseñe el código: si no hay código, la cuenta es de cabeza.
Calcular donde están los datos
La cuenta más segura es la que hace el programa donde los datos ya están: una fórmula en la hoja de cálculo o, si salen del programa de gestión, su base de datos. La IA ayuda igual: en vez de la cifra, le pides la fórmula o la sentencia SQL (la orden técnica que saca los datos), y la cuenta la hace la hoja o la base de datos, sobre todas las filas. De paso te ahorras copiar y pegar, y con ello otra forma de perder facturas: si la pantalla enseñaba sólo las cincuenta primeras, la IA suma cincuenta, con calculadora o sin ella.
Queda saber si la orden suma lo que preguntaste (sin IVA, sin las facturas anuladas…); cómo comprobarlo sin ser informático lo conté en cómo saber si la cifra de la IA es cierta.
Entonces, ¿te puedes fiar de los cálculos de la IA?
Sólo si los ha hecho un programa: el código que la IA ejecuta y te enseña, una fórmula de la hoja de cálculo o tu base de datos. Si la IA hace la cuenta de cabeza, la cifra tendrá céntimos y aspecto exacto, pero ningún programa la ha calculado.
En Reportman AI, la Respuesta Normal no le pide la cuenta a la IA: la IA escribe la sentencia SQL, que está a la vista y se puede revisar antes de ejecutarla, y la cifra la calcula tu base de datos. Cada sentencia pasa por una auditoría ciega, opcional y activada por defecto, que explica con palabras qué hace sin conocer tu pregunta. Funciona con la IA en la nube, con planes de precio escalonado, y con un modelo instalado en tu propia máquina: consultas ilimitadas en todos los planes, poniendo tú la máquina.
Fuentes
- Anthropic, Glosario (y su versión inglesa), entrada «Pretraining»: «los modelos de lenguaje autorregresivos (como el modelo subyacente de Claude) se preentrenan para predecir la siguiente palabra, dado el contexto previo del texto en el documento.»
- Anthropic, Herramienta de ejecución de código (y su versión inglesa), apartado «Cómo funciona la ejecución de código»: «Cuando agregas la herramienta de ejecución de código a tu solicitud de API: 1. Claude evalúa si la ejecución de código ayudaría a responder tu pregunta.» Y en «Cuándo ejecuta código Claude»: «Claude ejecuta código cuando la solicitud se beneficia del cálculo o del manejo de archivos: Matemáticas no triviales (números grandes, muchos pasos, resultados sensibles a la precisión); Análisis de datos, análisis sintáctico de archivos o visualización», entre otros casos; «Claude responde directamente sin ejecutar código para: Aritmética simple y datos matemáticos conocidos», entre otros; y «Si quieres que Claude ejecute código para una solicitud en el límite, pídelo explícitamente (por ejemplo, “ejecuta código para verificar esto”).»
- Microsoft, Nota de transparencia de Microsoft Copilot: «Copilot también puede ejecutar código para completar cálculos complejos y generar gráficos.»
- Anthropic, Introducing the analysis tool in Claude.ai (24 de octubre de 2024; una nota del 5 de noviembre de 2025 dice que la sustituye la ejecución de código): «With the analysis tool, you get answers that are not just well-reasoned, but are mathematically precise and reproducible.»
- Google, Code execution (API de Gemini): «The Gemini API provides a code execution tool that enables the model to generate and run Python code.»; «To enable code execution, configure the code execution tool on the model.»; y la pregunta de su ejemplo: «What is the sum of the first 50 prime numbers? Generate and run code for the calculation, and make sure you get all 50.»
- Anthropic, Centro de ayuda de Claude, Create and edit files with Claude, apartado «Availability»: en los planes Free, Pro, Max y Ultra, «Code execution and file creation is enabled by default»; en Team, activada por defecto y «Organization owners can disable it in organization settings»; en Enterprise, activada por defecto «for new Enterprise plan organizations», y el propietario también puede desactivarla.
- Reportman AI: página de inicio (la Respuesta Normal y la auditoría ciega, opcional y activada por defecto), desarrolladores («Cada consulta generada por la IA puede ser revisada, modificada y auditada por un experto antes de su ejecución»), planes («Consultas Locales Ilimitadas» en cada plan) e IA local («Reportman.AI permite consultas de IA local en todos los planes»).
Toni Martir, arquitecto de software · · fuentes comprobadas el