Entrenamiento e inferencia: aprender y trabajar

Los ejemplos de Zaragoza y Valencia son ilustrativos, con datos ficticios y sin resultados de clientes. Una tienda de recambios de Zaragoza quiere preparar borradores de respuesta sobre devoluciones. Aporta la consulta del cliente y su política vigente. El modelo redacta una propuesta con esa información. La tienda no ha encargado el entrenamiento inicial del modelo; está utilizando uno que ya existe para resolver un trabajo concreto.

La analogía es estudiar y trabajar: estudiar la carrera se parece al entrenamiento; aplicar lo aprendido al atender un encargo se parece a la inferencia. Tiene un límite: el modelo no aprende como una persona. Durante su entrenamiento se ajustan parámetros, los valores internos que determinan cómo procesa la información. Puede haber una formación inicial y adaptaciones posteriores. No todo el aprendizaje ocurre antes de que conozcas el producto.

El encargo, o prompt, y los documentos disponibles forman parte del contexto de trabajo. Si cambia la política de devoluciones, puedes aportar la versión vigente y comprobar que la respuesta la utiliza. Adjuntar ese documento no modifica por sí mismo los parámetros. Tampoco convierte el texto en una regla que vaya a aparecer en cualquier conversación futura. La tienda necesita una fuente actualizada que pueda consultar y revisar.

La memoria es otra pieza: puede guardar preferencias o detalles para personalizar respuestas. En ChatGPT no retiene cada detalle y sus controles dependen del plan, la región y la configuración. Que el chat recuerde cómo prefieres redactar no demuestra que se haya vuelto a entrenar. Para distinguir la consulta de documentos de una adaptación del modelo, tienes la comparación de RAG y ajuste fino: RAG es una forma de recuperar información y aportarla al responder.

Una API es una conexión entre programas: permite que tu aplicación pida una respuesta al modelo. En ese uso se pueden facturar por separado la entrada y la salida. Un token es la unidad utilizada para medir lo que el modelo procesa y genera, no una pregunta completa. En modelos de razonamiento también puede haber tokens internos facturados como salida, aunque no aparezcan escritos en la respuesta que lees.

Un agente puede encadenar llamadas: es un programa que utiliza el modelo para decidir pasos y usar herramientas dentro de los accesos que le das. Puede pedir una consulta externa y volver al modelo con el resultado. Por eso un encargo de una persona no equivale necesariamente a una sola llamada. Tampoco cada paso del razonamiento interno es otra llamada independiente. Mira el consumo registrado; contar solo las palabras visibles deja parte de la cuenta fuera.

Responder ahora y utilizar después una conversación para mejorar modelos son procesos separados. OpenAI no usa por defecto los datos enviados a su API para entrenar; puedes optar por compartirlos. Anthropic tampoco entrena por defecto con entradas y salidas de sus productos comerciales, incluidos Claude for Work y API, salvo usos autorizados expresamente. Esa condición no significa que no haya registros o retención de datos: comprueba ambos asuntos por separado.

En las cuentas personales de Claude, el control de mejora del modelo permite decidir sobre ese uso. Desactivarlo excluye las conversaciones nuevas de futuros entrenamientos; no deshace un entrenamiento iniciado ni modifica un modelo ya entrenado. Antes de aportar documentos del negocio, comprueba qué producto y contrato tienes y cómo está configurada la cuenta. La apariencia del chat no basta para saber qué condiciones se aplican a lo que escribes.

Para ampliar cada concepto, tienes qué es el entrenamiento de un modelo y qué es la inferencia. Si tu duda está en la factura, sigue por qué es un token. La formación de Ciade es el siguiente paso si quieres aprender a utilizar estas herramientas. Quédate con una decisión para tu negocio: define primero la tarea que necesitas resolver y después decide qué intervención requiere.