Qué es la ventana de contexto

Piensa en el tamaño de un escritorio. Puedes abrir documentos y trabajar con ellos, pero el archivador completo no está sobre la mesa. La ventana fija cuánto material puede manejar el modelo, el sistema que genera la respuesta. Ese espacio se mide en tokens: unidades que pueden ser partes de palabras, palabras o signos. No existe una equivalencia fija entre una palabra y un token.

Un despacho de Valladolid necesita localizar obligaciones de pago y condiciones de renovación en un contrato de un proveedor. Es un ejemplo ilustrativo. La responsable quiere una tabla con cada condición y su ubicación, más un borrador de dudas para el proveedor. El problema aparece cuando el trabajo se alarga: necesita saber con qué información está respondiendo el asistente antes de confiar en el resultado.

La aplicación gestiona la conversación: puede resumir mensajes antiguos, recuperar fragmentos o avisar de que se ha alcanzado el límite de longitud. No siempre se deja fuera lo más antiguo. Compactar significa sustituir parte del contexto por una síntesis para seguir trabajando. Esa operación no amplía el máximo del modelo. Puedes profundizar en qué es compactar el contexto.

Una respuesta equivocada no diagnostica la causa. Si el asistente mezcla las cláusulas del despacho o inventa un plazo, eso no demuestra que haya agotado la ventana. La precisión también puede empeorar al crecer el contexto sin llegar al máximo. Afirmar que todo cabía tampoco permite dar por correcto el resultado. Evita explicar cualquier contradicción como un olvido: primero comprueba qué dice el documento que se está utilizando y qué parte se ha aportado.

Modelo y aplicación pueden tener límites distintos. La cifra anunciada para un modelo no describe necesariamente lo que recibes en el chat de tu suscripción. Una API, la conexión que permite a un programa utilizar un servicio, puede ofrecer una capacidad diferente a la aplicación de conversación. Al comparar opciones, identifica el producto concreto, el modelo y sus condiciones. No uses el dato de una modalidad para decidir sobre otra.

Las páginas no son una medida universal. Su equivalencia depende del texto, del idioma y del modelo. Tampoco basta con anunciar una ventana grande si tu programa le asigna menos capacidad. En una instalación propia intervienen la configuración y la memoria del equipo; ampliar el contexto puede requerir más memoria. Para entender la unidad con la que se expresa ese límite, consulta qué es un token.

Practica con la cláusula de renovación del contrato: pide una tabla con cada condición y su ubicación, y coteja el resultado con el original. Guarda las decisiones revisadas y lo pendiente para retomar la tarea. Para practicar cómo preparar encargos y revisar sus respuestas, sigue con la formación de Ciade.