Reportman.AI Logo Reportman.AI

← Todos los articulos

¿Te puedes fiar de los cálculos de la IA?

· Toni Martir, arquitecto de software

En administración, alguien copia del programa de gestión las doscientas facturas pendientes de cobro, las pega en el asistente de IA y le pide el total. La respuesta llega al momento y con céntimos: 48.317,25 €.

Que esa cifra sea una suma depende de algo que no se ve: si la IA ha hecho la cuenta con un programa o de cabeza, escribiendo la cifra igual que escribe el resto de la respuesta. Los fabricantes distinguen una cosa de otra.

El total de las facturas pendientes: quién hace la cuenta

La IA, de cabeza Escribe el total igual que escribe el resto de la respuesta
calcula: ningún programa puedes revisar: nada suma lo que pegaste
La IA, con código Escribe un pequeño programa, lo ejecuta y te da su resultado
calcula: el programa puedes revisar: el código suma lo que pegaste
La hoja de cálculo La IA te dice la fórmula y la hoja suma la columna
calcula: la hoja puedes revisar: la fórmula suma las filas de la hoja
La base de datos La IA escribe la sentencia SQL y la base de datos suma las facturas pendientes
calcula: la base de datos puedes revisar: la sentencia suma todas las facturas

Un ejemplo de oficina. Las cuatro cifras salen con céntimos y con el mismo aspecto. Cambia quién ha hecho la cuenta, qué puedes revisar y sobre qué filas: lo que se pega en el chat puede no ser la lista entera.

Escribir una cifra no es calcularla

Un modelo de lenguaje, el motor de estos asistentes, se entrena para predecir la siguiente palabra a partir del texto anterior, y así escribe la respuesta: palabra a palabra. Para él, una cifra es una palabra más.

Para la aritmética simple, Anthropic deja que su modelo, Claude, conteste así. Para las cuentas largas le da una calculadora: Claude ejecuta código cuando hay «matemáticas no triviales (números grandes, muchos pasos, resultados sensibles a la precisión)» o análisis de datos. Microsoft explica que su asistente, Copilot, «puede ejecutar código para completar cálculos complejos». Sumar doscientas facturas lleva muchos pasos, y en el resultado importa cada céntimo.

Al estrenar esa calculadora en sus aplicaciones, en 2024, Anthropic prometía respuestas «matemáticamente precisas y reproducibles»: la misma cifra cada vez.

Cómo saber si ha hecho la cuenta

Primero, la herramienta de ejecutar código tiene que estar activada. Anthropic y Google la ofrecen a los programas que usan sus modelos, pero cada programa tiene que pedirla: una herramienta de IA montada sobre ellos puede no tenerla. En las aplicaciones de Claude viene activada de serie, y en los planes de empresa el propietario de la organización puede desactivarla.

Segundo, aunque esté activada, decide el modelo: Claude «evalúa si la ejecución de código ayudaría», y para los casos dudosos Anthropic aconseja pedirlo: «ejecuta código para verificar esto». El ejemplo de Google lo pide con todas las letras: «genera y ejecuta código para el cálculo, y asegúrate de que tienes los 50». Así que pídelo siempre, y que te enseñe el código: si no hay código, la cuenta es de cabeza.

Calcular donde están los datos

La cuenta más segura es la que hace el programa donde los datos ya están: una fórmula en la hoja de cálculo o, si salen del programa de gestión, su base de datos. La IA ayuda igual: en vez de la cifra, le pides la fórmula o la sentencia SQL (la orden técnica que saca los datos), y la cuenta la hace la hoja o la base de datos, sobre todas las filas. De paso te ahorras copiar y pegar, y con ello otra forma de perder facturas: si la pantalla enseñaba sólo las cincuenta primeras, la IA suma cincuenta, con calculadora o sin ella.

Queda saber si la orden suma lo que preguntaste (sin IVA, sin las facturas anuladas…); cómo comprobarlo sin ser informático lo conté en cómo saber si la cifra de la IA es cierta.

Entonces, ¿te puedes fiar de los cálculos de la IA?

Sólo si los ha hecho un programa: el código que la IA ejecuta y te enseña, una fórmula de la hoja de cálculo o tu base de datos. Si la IA hace la cuenta de cabeza, la cifra tendrá céntimos y aspecto exacto, pero ningún programa la ha calculado.


En Reportman AI, la Respuesta Normal no le pide la cuenta a la IA: la IA escribe la sentencia SQL, que está a la vista y se puede revisar antes de ejecutarla, y la cifra la calcula tu base de datos. Cada sentencia pasa por una auditoría ciega, opcional y activada por defecto, que explica con palabras qué hace sin conocer tu pregunta. Funciona con la IA en la nube, con planes de precio escalonado, y con un modelo instalado en tu propia máquina: consultas ilimitadas en todos los planes, poniendo tú la máquina.

Fuentes

Toni Martir, arquitecto de software · · fuentes comprobadas el