El coste de los tokens es una linea de siete en el coste total de propiedad de una funcion basada en LLM. Una cuenta completa incluye tokens de entrada y salida, reintentos, recuperacion y embeddings, una capa de evaluacion, monitorizacion, supervision humana e infraestructura. El precio publicado de la API suele explicar menos de la mitad de lo que la funcion cuesta de verdad en produccion, y por eso los margenes brutos tradicionales del SaaS, del 80 al 90 por ciento, se comprimen al 50-60 por ciento cuando entran llamadas a modelos en el producto. La pregunta correcta no es cuanto cuesta un millon de tokens, sino cuanto cuesta una unidad de trabajo por la que un cliente pagara.
Las siete lineas de coste de una funcion respaldada por un modelo
La mayoria de los equipos calcula el precio de una funcion de IA directamente desde la tarifa del proveedor: tantos dolares por millon de tokens de entrada, tantos por los de salida. Eso es una linea. Produccion saca a la luz otras seis, y varias de ellas son fijas en lugar de ligadas al volumen, lo que significa que pesan mas al principio.
| Linea de coste | Que cubre | Comportamiento |
|---|---|---|
| Tokens de entrada y salida | El prompt, el contexto recuperado y la respuesta del modelo | Variable, lineal con el volumen |
| Reintentos y fallos | Timeouts, limites de tasa, salidas rechazadas por validacion y reenviadas | Variable, con picos bajo carga |
| Recuperacion y embeddings | Generacion de embeddings, almacenamiento vectorial, consultas, reindexacion | Mixto: indexar fijo, consultar variable |
| Capa de evaluacion | Sets de prueba, pasadas de evaluacion antes de cada cambio de prompt o modelo | Fijo por ciclo de desarrollo |
| Monitorizacion y registro | Captura de entrada y salida, metricas de calidad, alertas, retencion | Fijo con componente de volumen |
| Supervision humana | Revision por muestreo, gestion de escalados, etiquetado de casos limite | Variable en horas-persona |
| Infraestructura e integracion | Capa de abstraccion del proveedor, colas, cache, seguridad y permisos | Fijo, se diluye proporcionalmente al crecer |
Por que el precio publicado de los tokens enganan
Tres huecos sistematicos separan la tarifa de la factura.
La salida es mucho mas cara que la entrada. En la mayoria de los proveedores un token de salida cuesta entre cinco y ocho veces uno de entrada. Una funcion que genera respuestas largas paga esa longitud dos veces, lo que convierte el limite de longitud de salida en el ahorro mas barato disponible cualquier dia.
El contexto crece en silencio. En cuanto entra la recuperacion, cada llamada arrastra fragmentos de documentos, historial de conversacion e instrucciones de sistema. Un prompt que parece de tres lineas en el codigo son varios miles de tokens en vuelo, y esa diferencia se multiplica por cada llamada.
Los reintentos nunca aparecen en el plan. Una llamada que falla por validacion, formato o timeout se vuelve a enviar y se factura dos veces. Bajo carga real, la tasa de reintentos suele ser la diferencia entre la previsión y la factura.
La formula: coste por unidad de trabajo
En lugar de seguir el consumo total de tokens, define una unidad de trabajo con sentido de negocio: un ticket resuelto, un documento resumido, un lead enriquecido, una fila clasificada. La aritmetica queda asi.
| Componente | Como calcularlo | Nota |
|---|---|---|
| Coste medio por llamada | (tokens entrada x precio entrada) + (tokens salida x precio salida) | Medelo, no lo estimes |
| Llamadas por unidad | Incluyendo pasos de recuperacion, enrutado, clasificacion y verificacion | Un agente tipico hace de 3 a 8 llamadas por unidad |
| Multiplicador de reintentos | 1 dividido por la tasa de exito al primer intento | Un 85% de exito equivale a un multiplicador de 1,18 |
| Coste de supervision humana | Tasa de escalado x coste horario cargado x tiempo de gestion | Suele ser la linea mas pesada |
| Reparto del coste fijo | Coste fijo total dividido por unidades mensuales | Cae a medida que sube el volumen |
Los benchmarks publicados hasta 2026 en atencion al cliente situan un ticket resuelto por IA entre medio dolar y dos dolares a nivel unitario, frente a seis a doce dolares de un contacto gestionado por una persona. La brecha parece decisiva, pero se estrecha bastante cuando se vuelven a sumar supervision, evaluacion e infraestructura, y algunas cifras publicadas colocan el coste totalmente cargado de una resolucion automatizada mas cerca de cinco dolares. La distancia entre esas dos lecturas es exactamente la distancia entre coste de tokens y coste de propiedad.
Las tres palancas que de verdad mueven la factura
Antes de cambiar la arquitectura hay tres descuentos que los proveedores ya ofrecen y que la mayoria de los equipos no explota del todo.
| Palanca | Orden de magnitud | Cuando encaja |
|---|---|---|
| Cache de prompts | Lecturas de cache a alrededor de una decima parte de la tarifa de entrada estandar | Instrucciones de sistema estables, documentos base recurrentes |
| Procesamiento por lotes | Aproximadamente medio precio | Todo lo que no necesita respuesta en tiempo real |
| Seleccion de modelo por tarea | Decenas de veces de diferencia entre niveles de modelo | Clasificar, extraer y enrutar no necesitan un modelo frontera |
Que le hace esto a la cuenta de resultados
El software tradicional vive con un margen bruto del 80 al 90 por ciento porque el coste de servir a un usuario mas se acerca a cero. Una funcion respaldada por un modelo rompe ese supuesto: cada uso arrastra coste real de computo. Las publicaciones hasta 2026 situan el margen bruto de estas funciones en la franja del 50 al 60 por ciento.
La implicacion practica no es que la funcion no valga la pena, sino que el modelo de precios tiene que moverse con ella. Un precio por asiento, insensible al uso, convierte a los usuarios intensivos en un deficit silencioso: cuando el cinco por ciento de los usuarios genera la mayor parte del coste de computo, una tarifa plana simplemente los subvenciona.
Como medirlo en la practica
1. Etiqueta cada llamada a la API con el identificador de la unidad de trabajo a la que sirve, no solo con un ID de usuario. Sin eso no podras reconstruir el coste por unidad despues.
2. Guarda por separado tokens de entrada, tokens de salida y numero de intentos. Un unico total de coste esconde todo lo que se podria arreglar.
3. Trata la tasa de exito al primer intento como una metrica de producto, no de infraestructura. Multiplica el coste de forma directa.
4. Reparte los costes fijos entre las unidades cada mes, o una funcion en crecimiento parecera peor de lo que es.
5. Fija un techo de coste por unidad como criterio de lanzamiento, con el mismo rango que un criterio de calidad. Una funcion que rompe el techo no sale.
Preguntas frecuentes
Que parte del coste total de propiedad es la factura de la API?
No hay un numero unico, pero en despliegues con supervision humana, capa de evaluacion y monitorizacion, la linea de la API suele ser una minoria del coste total. Cuanto mas automatizado y menos supervisado es el producto, mayor se vuelve su peso. Por eso las siete lineas hay que calcularlas, no deducirlas de una tarifa.
Como se estima el coste antes de que exista produccion?
Pasa una muestra representativa de varios cientos de unidades de trabajo reales por el pipeline completo y mide tokens, llamadas y reintentos tal como ocurren. Estimar solo desde el prompt casi siempre se queda corto, porque ignora el contexto recuperado y los fallos.
Un modelo mas pequeno siempre es mas barato?
No. Un modelo barato que falla mas a menudo produce reintentos, salidas mas largas y escalados a personas, y todo eso cuesta mas que la diferencia de precio del token. La comparacion correcta es coste por unidad de trabajo completada con exito, no precio por millon de tokens.
Cuando merece la pena pasar a un modelo en servidor propio?
Cuando la carga de trabajo es estrecha, repetitiva y de volumen alto, y cuando el coste o la latencia de la API se han vuelto la restriccion que manda. A volumen bajo o en una tarea amplia, el coste de ingenieria y mantenimiento de ejecutar tu propio modelo suele superar el ahorro.
Si solo se puede seguir una metrica, cual deberia ser?
Coste por unidad de trabajo completada con exito, revisado cada mes. Absorbe el precio del token, la tasa de fallo, los escalados y la eficiencia de la recuperacion, y es la unica cifra directamente comparable con tu precio y con el coste de la alternativa humana.