IA
Cuánto cuesta correr un agente de IA y cómo controlar ese costo
Un agente de IA parece barato en la prueba: algunas conversaciones, unos pocos centavos. La sorpresa llega con el volumen. Sin medir, la empresa descubre a fin de mes una factura que nadie sabe explicar. Con medición, el costo se vuelve un número predecible, por conversación, que se puede comparar con el valor que el agente entrega.
Cómo se cobra la IA
Los modelos de lenguaje cobran por tokens, que son pedazos de palabra. Todo lo que el modelo lee cuenta como entrada, y todo lo que escribe cuenta como salida. La salida suele ser más cara que la entrada, y los modelos más capaces cuestan más por token que los modelos más pequeños.
El punto que más confunde: con cada mensaje del cliente, el modelo no lee solo el mensaje nuevo. Vuelve a leer todo lo que necesita para responder:
- las instrucciones del agente (quién es, cómo habla, qué puede y qué no puede);
- la base de conocimiento relevante;
- la descripción de las herramientas que puede usar;
- el historial de la conversación hasta ese momento.
En un agente bien construido, ese contexto fijo es mucho mayor que el mensaje del cliente. Es el que domina la cuenta.
Qué entra en el costo además del modelo
El costo del modelo es solo una línea. El costo total de un agente incluye:
- Canal. En WhatsApp por la API oficial hay tarifas de la propia plataforma, que varían según el tipo de conversación y el país.
- Otros servicios de IA. Transcripción de audio, búsqueda en la base de conocimiento, clasificación.
- Infraestructura. Servidor, base de datos, monitoreo.
- Mantenimiento. Alguien sigue las conversaciones, ajusta las reglas y actualiza la base. Es el ítem que más se olvida.
Los precios cambian con frecuencia. Consulta siempre la tabla oficial del proveedor antes de hacer cuentas, y desconfía de cualquier número fijo que leas por ahí, incluso en artículos.
Qué hace subir el costo sin que nadie lo note
- Instrucciones que crecen. Cada ajuste se convierte en un párrafo más. En pocos meses, el agente relee un texto enorme en cada mensaje.
- Base de conocimiento enviada completa. Mandar todos los documentos en cada conversación, en lugar de solo el fragmento relevante.
- Conversaciones largas. El historial crece y se relee en cada turno.
- Un modelo grande para una tarea pequeña. Usar el modelo más caro para clasificar un mensaje como "duda" o "reclamo".
- Llamadas repetidas. El agente consulta tres herramientas y el modelo se activa de nuevo con cada resultado.
- Mensajes que no deberían llegar al modelo. Un sticker, "ok", "gracias".
Cómo controlarlo
Mide por conversación
Registra, para cada conversación, cuántos tokens entraron y salieron, qué modelo se usó y cuánto costó. Sin esa medida, todo lo demás es una corazonada. Con ella, descubres qué tipos de conversación cuestan más y por qué.
Usa caché de contexto
Los principales proveedores ofrecen caché: cuando el inicio del contexto se repite de una llamada a otra, esa parte se cobra con descuento. Como las instrucciones y la base de conocimiento se repiten en cada mensaje, el efecto puede ser grande.
Para aprovecharlo, el orden importa. La parte que no cambia va primero y tiene que ser idéntica en cada llamada. Lo que varía, como la fecha, el nombre del cliente y el mensaje nuevo, va al final. Un detalle pequeño, como poner la hora actual al principio de las instrucciones, basta para anular el caché. Las reglas exactas y el tamaño del descuento varían según el proveedor y cambian con el tiempo, así que conviene leer la documentación.
Elige el modelo por tarea
La clasificación inicial, la categorización y los resúmenes cortos funcionan bien en modelos más pequeños y baratos. El modelo más capaz se reserva para la conversación en sí, donde el cliente percibe la calidad de la respuesta.
Envía solo lo necesario
En lugar de mandar la base completa, busca los fragmentos relacionados con la pregunta. En lugar de cargar el historial completo de una conversación larga, resume lo que ya pasó. Explicamos cómo organizar la base en Cómo entrenar a un agente de IA con la base de conocimiento de la empresa.
Filtra antes del modelo
Reglas simples resuelven lo que no necesita IA: un mensaje vacío, un saludo repetido, un pedido para dejar de recibir mensajes. Cada llamada evitada cuesta cero.
Pon límites
Un tope de gasto por día, un límite de turnos por conversación y una alerta cuando el costo promedio salga del rango esperado. El límite no es desconfianza hacia el agente, es el mismo cuidado que se tiene con cualquier gasto variable.
El costo de la IA no se controla cambiando de proveedor con cada novedad. Se controla diseñando el sistema para releer menos y medir todo.
Cómo saber si vale la pena
El costo por conversación solo tiene sentido junto con lo que la conversación entrega. Compáralo con:
- el tiempo de una persona para hacer la misma atención;
- los contactos que hoy se quedan sin respuesta de noche y los fines de semana;
- la velocidad de la primera respuesta, que pesa en la calificación. Un estudio publicado en Harvard Business Review en 2011 (Oldroyd, McElheran y Elkington) mostró que las empresas que intentaron el contacto en hasta 1 hora tuvieron casi 7 veces más probabilidades de calificar al lead que las que lo intentaron 1 hora después.
No existe un número universal. Una conversación que cuesta poco y no resuelve nada es cara. Una que cuesta más y le entrega un contacto calificado al vendedor puede ser barata. La cuenta tiene que hacerse con tus datos.
Un ejemplo para visualizar
Imagina una escuela de idiomas que pone un agente para atender a los interesados. El primer mes, la factura asusta. Al mirar el registro por conversación, el equipo ve que el agente relee el catálogo completo de cursos en cada mensaje y que la fecha del día está en la primera línea de las instrucciones. Al reorganizar el contexto para que la parte fija vaya primero y buscar solo el curso consultado, el costo por conversación baja, sin cambiar de modelo y sin alterar la calidad de la respuesta. Cuánto baja depende de cada caso. El camino es el mismo.
Por dónde empezar
Si ya tienes un agente, activa hoy el registro de tokens y costo por conversación. En una semana, los tres mayores culpables aparecen solos. Si todavía vas a construirlo, incluye la medición en el alcance desde el primer día, junto con las reglas que describimos en Agente de IA en WhatsApp.
Los agentes de IA con el costo medido por conversación forman parte de los servicios de delpra™.
Escrito por el equipo delpra™Procesos, automatización e IA para que la operación escale con eficiencia.