Qué son los parámetros de un modelo

Una distribuidora de recambios de Zaragoza quiere preparar respuestas a consultas sobre entregas. Tiene su política por escrito y necesita que los borradores respeten esas condiciones. Es un ejemplo ilustrativo, con mensajes ficticios o autorizados, no un caso de cliente. Al comparar ofertas, una incluye el número de parámetros y otra no lo publica. Esa diferencia le permite conocer el tamaño de una, pero todavía no le dice cuál resolverá mejor su encargo.

Para comparar modelos con este encargo, limita la prueba a borradores de respuesta sobre entregas. No concedas permisos para enviar correos ni tramitar devoluciones.

Imagina los reguladores de una cafetera: molienda, temperatura y presión. Sus posiciones cambian el resultado. En la analogía, entrenar consiste en ajustar muchísimos valores hasta acercar la salida al resultado esperado. Cada regulador representa un parámetro. La comparación sirve para entender qué se ajusta, aunque un modelo trabaja con números, no con piezas mecánicas. No tienes que mover esos valores a mano para usar un asistente: eliges un modelo que ya ha pasado por ese entrenamiento.

Los parámetros incluyen los llamados pesos: valores que influyen en cómo el modelo procesa la información. Son parte esencial del modelo, pero no todo lo necesario para ejecutarlo. También hacen falta su estructura y los componentes que procesan la entrada. Si quieres separar ambos conceptos, empieza por qué es un modelo de IA. El entrenamiento es el proceso que ajusta esos valores; usarlos después para responder se llama inferencia.

En las etiquetas de tamaño, B viene del inglés billion. Una B equivale a mil millones, no a un billón español. La cifra cuenta valores numéricos; no palabras conocidas, documentos ni gigabytes. Además, un nombre comercial puede redondear el recuento. Cuando necesites comparar tamaños, pide la ficha técnica y comprueba qué está contando. Copiar el número del nombre sin leer su definición puede llevarte a comparar medidas distintas como si fueran la misma.

Otra distinción aparece en los modelos de mezcla de expertos, abreviados MoE: utilizan una parte de sus parámetros para procesar cada token. Total y activo son medidas distintas. El total describe el conjunto del modelo; el activo, la parte utilizada por token. No es una porción fija que atienda toda la conversación. Para leer una oferta técnica, pregunta por ambas cantidades y por el tipo de modelo.

Contar valores no te dice cuánto espacio ocupa cada uno. Los bits indican cuánto espacio se dedica a representar cada valor. La cuantización consiste en representar los pesos con menor precisión numérica para reducir memoria, intentando conservar la exactitud. No equivale por sí sola a quitar parámetros. Dos variantes pueden tener el mismo recuento y necesitar distinto espacio para sus pesos. También pueden dar resultados distintos: antes de elegir una variante comprimida, comprueba que sigue resolviendo el encargo que te interesa.

Para un modelo con ocho mil doscientos millones de parámetros, el cálculo ideal cuenta solo el espacio de sus pesos. No indica cuánta memoria necesita el ordenador ni el tamaño real de un archivo descargable. El contexto, los metadatos y la ejecución necesitan memoria adicional, y el reparto depende del programa y del equipo. Aquí GB significa mil millones de bytes. Pide que quien prepare una instalación separe el cálculo de los pesos de la memoria total que necesitará durante el uso.

El tamaño es una característica, no una clasificación de resultados. El entrenamiento también importa. El trabajo original sobre Chinchilla mostró que un modelo menor podía superar a otro mayor en las evaluaciones descritas al cambiar la relación entre tamaño y datos de entrenamiento. Ese resultado no permite declarar ganador a cualquier modelo pequeño actual. Sí explica por qué una oferta que destaca únicamente su recuento deja fuera información necesaria para decidir.

La espera también depende del equipo, la red y la complejidad de la entrada y la salida. Que un borrador llegue pronto no resuelve cuánto tardarás en comprobarlo. Si necesitas ordenar estos conceptos antes de hablar con un proveedor, puedes seguir con la formación de IA de Ciade.