Índice del artículo
En 30 segundos
La latencia es el tiempo que pasa entre enviar una petición a una IA y recibir su respuesta.
Distingue empezar y terminar: ver las primeras palabras no significa que el resultado esté completo ni que una acción se haya realizado.
Mide el proceso de tu negocio con tareas representativas. Aceptar una espera mayor puede tener sentido si conserva una comprobación necesaria; reducirla exige revisar también la calidad.
Una inmobiliaria de Zaragoza tiene a un cliente esperando
Ejemplo ilustrativo, con datos ficticios: una inmobiliaria recibe una consulta desde su web. Un agente, un programa que decide pasos y utiliza herramientas para hacer una tarea, consulta las fichas autorizadas de los inmuebles y prepara un borrador. El comercial comprueba disponibilidad, precio y condiciones antes de enviarlo. Este recorrido se configura expresamente: elegir un modelo de IA no conecta por sí solo el catálogo ni establece quién aprueba la respuesta.
La pregunta útil es cuándo está listo el borrador. Si aparece un saludo mientras se consulta la ficha, el cliente ve actividad, pero la información que necesita todavía no está preparada. Al probar este proceso de consultas inmobiliarias, mide la espera técnica hasta obtener el borrador completo. Registra aparte lo que tarda el comercial en revisarlo y decidir el envío. Así puedes distinguir una consulta lenta al catálogo de una entrega pendiente de revisión humana.
De la consulta al envío
- Llega la consulta
- Busca la ficha
- Prepara el borrador
- Revisas
- Apruebas el envío
En las consultas de la inmobiliaria, la espera técnica termina cuando el borrador está completo. La revisión y el envío se registran después. No retires la consulta de disponibilidad para acelerar el recorrido: una respuesta que llega antes con un dato inventado no resuelve el encargo.
Qué reloj necesitas mirar
Hasta el primer texto
Qué te dice: Cuándo puedes empezar a leer una respuesta.
Cómo comprobarla: Registra el envío y el primer contenido útil recibido.
Qué no demuestra: Un aviso de conexión o de «pensando» no es la respuesta.
Respuesta completa
Qué te dice: Cuánto tarda una petición en entregar todo su resultado.
Cómo comprobarla: Registra el envío y el último contenido recibido.
Qué no demuestra: Empezar pronto no implica terminar pronto.
Ritmo de generación
Qué te dice: Con qué rapidez avanza el texto una vez iniciado.
Cómo comprobarla: Divide los tokens generados entre los segundos de generación.
Qué no demuestra: El ritmo no mide la espera anterior al primer texto.
Proceso terminado
Qué te dice: Cuándo está listo el resultado que necesita el negocio.
Cómo comprobarla: Incluye las consultas a herramientas y el resultado final.
Qué no demuestra: Una llamada rápida no describe todo el proceso.
Peticiones simultáneas
Qué te dice: Qué sucede cuando coinciden varios encargos.
Cómo comprobarla: Repite el recorrido con carga representativa y registra esperas y errores.
Qué no demuestra: El número de peticiones no multiplica por sí solo la espera individual.
Compara mediciones con la misma definición de inicio y final. Puedes registrar duraciones en segundos o milisegundos. Los *tokens* son fragmentos de texto que procesa o genera el modelo; el ritmo de generación se expresa en tokens por segundo.
Empezar a escribir no equivale a acabar
La entrega progresiva, llamada streaming, muestra fragmentos antes de completar la respuesta. Permite empezar a leer antes, pero no demuestra que el trabajo total dure menos. Una integración puede recibir avisos de conexión, texto o solicitudes para usar herramientas. Pide que el indicador de avance distinga esos estados: mostrar actividad ayuda a entender qué sucede, aunque todavía no haya una respuesta útil. Si la transmisión se interrumpe, conserva el estado de error y evita presentar el fragmento como una entrega terminada.
Más tokens por segundo no bastan para elegir una IA. Un modelo puede generar deprisa y producir una respuesta más larga, con lo que tarda más en acabar. Compara resultados de una longitud adecuada para el mismo encargo, además de su corrección. Puedes ampliar la explicación en qué es un token.
Cuatro ajustes que conviene probar
Longitud de salida
Pide la extensión necesaria para la tarea. Un borrador breve y un informe desarrollado no exigen la misma salida. Comprueba que el recorte conserve lo que necesitas para decidir.
Esfuerzo
Ajusta el trabajo del modelo al encargo. Bajar el esfuerzo puede reducir búsquedas o comprobaciones. Evalúa el resultado antes de aceptar ese cambio para atender consultas reales.
Caché
La caché reutiliza una parte repetida del encargo ya procesada. Esa parte debe coincidir exactamente. No basta con preguntar algo parecido, ni acelera la generación del texto nuevo.
Herramientas
Revisa los intercambios entre aplicaciones. Una herramienta permite consultar datos o ejecutar una operación. Conserva las búsquedas necesarias y los permisos, aunque añadan espera.
Para preparar el encargo, revisa qué contenido es imprescindible. Reducir texto de entrada no asegura una mejora útil si después debes corregir una respuesta incompleta. Cambia un factor y compara.
Cómo medir la espera en la inmobiliaria
Define qué cuenta como terminado
Escribe el resultado esperado antes de iniciar la prueba. En la inmobiliaria, el borrador debe apoyarse en la ficha del inmueble y señalar lo que falta. Elige consultas representativas y una regla para decidir si la respuesta sirve. No compares un saludo con un borrador revisable. Pide que los registros permitan localizar cada consulta y relacionarla con sus búsquedas y su resultado. Así podrás explicar qué parte del recorrido estás midiendo cuando revises la prueba con quien prepara la integración.
Registra esperas y fallos
Anota inicio, primer texto y final, junto con errores y reintentos. Repite el proceso cuando coincidan consultas, con una carga que represente tu uso. No descartes una petición fallida para mejorar la media de la prueba. Si el proveedor rechaza una solicitud por superar sus límites, registra el rechazo y la espera antes de repetirla. Un resultado que llega después de varios intentos sigue contando desde la solicitud inicial si estás midiendo lo que espera la persona.
Cambia un factor y decide
Compara tiempo y calidad juntos con el mismo conjunto de encargos. Puedes cambiar el esfuerzo o la extensión solicitada, dejando el resto igual. Comprueba después si se mantienen las condiciones que habías escrito al principio. Documenta qué ajuste has cambiado para poder repetir la prueba. Si una respuesta exige más correcciones, registra también ese trabajo humano. Elige una configuración que sirva a tu negocio y atribuye una mejora a un ajuste solo después de medirla.
No lo confundas con
Esfuerzo y modo pensar
El esfuerzo es uno de los factores de la espera. El modo pensar dedica trabajo a razonar. La red, la carga y las herramientas también influyen; pensar más no asegura una respuesta mejor en cualquier tarea.
Contexto
El contexto es la información disponible para responder. Su volumen puede influir en el procesamiento. Recortarlo exige conservar las instrucciones y los datos que necesita el encargo.
Límite de uso
Un límite fija cuánto puedes solicitar en un periodo. No describe cuánto tarda cada respuesta. Al superarlo puede haber un rechazo, distinto de una consulta aceptada que está esperando.
Decide quién puede esperar
Una sola consulta también importa si una persona está pendiente del resultado. En cambio, preparar borradores de catálogo para revisarlos después permite plantear una entrega diferida. El procesamiento por lotes agrupa peticiones que se resuelven en segundo plano. La responsable debe recuperar resultados y errores, comprobar las referencias y decidir qué textos se importan. No conviertas ese trabajo en una conversación inmediata ni des por acabadas las peticiones que no hayan terminado.
Ejecutar la IA en tu ordenador tampoco elimina la espera. Ollama, un programa que permite ejecutar modelos locales, ofrece medidas para separar carga, lectura de entrada y generación. La primera consulta puede incluir la carga del modelo; compruébalo antes de atribuir la diferencia a otra causa. Su duración interna no representa por sí sola el recorrido de toda tu aplicación. Si vas a encargar una integración, lleva por escrito qué resultado necesitas y qué esperas medir.
Dudas sobre la latencia, respuestas cortas
¿Cuánto debería tardar una IA en responder?
No hay una duración universal que sirva para cualquier tarea. Depende del modelo, del encargo, de la infraestructura y de las herramientas utilizadas. Decide cuánto puede esperar quien necesita el resultado y comprueba si la respuesta mantiene la calidad exigida.
¿La entrega progresiva reduce el tiempo total de espera?
La entrega progresiva permite empezar a leer antes, pero no demuestra que la tarea termine antes. Distingue el primer texto útil de los avisos de conexión y del resultado completo. Si la transmisión se interrumpe, registra el error y evita presentar el fragmento recibido como una respuesta terminada.
¿Basta con bajar el esfuerzo para reducir la latencia?
El esfuerzo es uno de los factores que influyen en la espera. También intervienen la red, la carga y las herramientas. Reducirlo puede omitir búsquedas o comprobaciones. Compara los mismos encargos y revisa si conservan la calidad necesaria antes de aceptar el ajuste para tu negocio.
¿Por qué la primera consulta con una IA local puede tardar más?
La primera consulta puede incluir la carga del modelo en memoria. Ollama permite separar esa carga del procesamiento de entrada y de la generación. Comprueba las medidas antes de atribuirle la causa. Ejecutar el modelo en tu ordenador no elimina la espera ni mide por sí solo toda la aplicación.
Fuentes
Fuentes oficiales, consultadas el 4 de noviembre de 2026
- Anthropic · Factores que influyen en la latencia
- NVIDIA · Primer contenido, duración y ritmo de generación
- Anthropic · Entrega progresiva y estados de respuesta
- Anthropic · Esfuerzo del modelo
- Anthropic · Caché de encargos
- Anthropic · Límites de uso y reintentos
- Anthropic · Procesamiento por lotes
- Ollama · Métricas de duración
- Ollama · Carga y funcionamiento local
- Anthropic · Evaluar latencia conservando la calidad
- Anthropic · Intercambios con herramientas
Cómo lo comprobamos. Fuentes consultadas el 4 de noviembre de 2026. No hay mediciones de rendimiento de Ciade para estos ejemplos. Comprueba con tus encargos las respuestas completas, los errores y el tiempo de revisión humana antes de elegir una configuración.
Qué ha cambiado.
- 4 de noviembre de 2026: Reescritura: diferencia entre inicio, respuesta completa y proceso terminado; se corrigen las afirmaciones sobre consultas aisladas, volumen y esfuerzo.
Términos relacionados
Aprende a usar la IA en tu trabajo, con criterio.
El nivel 0 es gratis: cuarenta minutos para entender qué pedirle a la IA y qué revisar. El programa completo enseña a implementarla en tu propio negocio, tarea a tarea.
