¿Qué son los parámetros de muestreo en LLMs?

Cuando un modelo de lenguaje grande (LLM) genera texto, no simplemente elige la palabra "correcta" siguiente. En realidad, calcula una distribución de probabilidad sobre miles de palabras candidatas. Los parámetros de muestreo controlan cómo el modelo selecciona entre estas opciones.

La metáfora del sorteo de palabras

Imagina que cada palabra candidata tiene tickets de lotería. Una palabra con 40% de probabilidad tiene 40 tickets, mientras que una con 5% tiene solo 5 tickets. Cuando el modelo "sortea" la siguiente palabra, aquellas con más tickets tienen mayor probabilidad de ser elegidas - pero incluso las palabras raras tienen una pequeña oportunidad.

Los tres parámetros principales (Temperatura, Top-K y Top-P) modifican este sorteo de maneras diferentes.

Temperatura: redistribución de probabilidades

La temperatura es un valor entre 0 y 2 que controla cómo se redistribuyen las probabilidades entre candidatos.

Temperatura baja (0.1 - 0.3)

Con temperatura cercana a 0, el modelo concentra casi toda la probabilidad en las palabras más probables. El sorteo se vuelve extremadamente predecible.

Casos de uso:

• Generación de código (sintaxis precisa)
• Extracción de datos estructurados
• Clasificación de texto
• Respuestas factuales precisas

Ejemplo: Pregunta: "¿Cuál es la capital de Francia?"

• Temperatura 0.1 → Siempre responde "París"

Temperatura media (0.7 - 0.9)

Balance entre coherencia y variedad. Es la configuración más común en producción.

Casos de uso:

• Chatbots conversacionales
• Asistentes virtuales
• Resúmenes de texto
• Traducción automática

Temperatura alta (1.0 - 2.0)

Con temperatura alta, las probabilidades se redistribuyen de forma más equitativa. Palabras raras ganan más tickets en el sorteo.

Casos de uso:

• Escritura creativa (poesía, cuentos)
• Brainstorming de ideas
• Generación de nombres/títulos
• Marketing creativo

Ejemplo: Prompt: "El cielo es..."

• Temperatura 1.5 → "El cielo es un lienzo de sueños olvidados"
• Temperatura 0.2 → "El cielo es azul"

Fórmula matemática

La temperatura ajusta los logits (puntuaciones pre-softmax) antes de calcular probabilidades:

probabilidad_i = softmax(logit_i / temperatura)

Top-K: filtro rígido de candidatos

Top-K establece el número máximo de palabras que pueden participar en el sorteo. Es un filtro rígido que descarta todos los candidatos fuera del top K, sin importar sus probabilidades.

Funcionamiento

1. Ordenar todas las palabras por probabilidad (descendente)
2. Conservar solo las primeras K palabras
3. Descartar todo lo demás

Valores comunes

K = 1: Modo greedy (siempre elige la palabra más probable)

• Completamente determinista
• Cero creatividad
• Ideal para tareas que requieren precisión absoluta

K = 10: Muy conservador

• Solo las 10 palabras más probables compiten
• Respuestas coherentes pero predecibles
• Útil para contextos formales

K = 50: Balance estándar

• Suficiente variedad sin incoherencias
• Configuración común en producción

K = 100: Más variedad

• Permite palabras menos comunes
• Mayor creatividad, menor coherencia garantizada

Limitaciones de top-K

Top-K no considera la distribución real de probabilidades. En contextos muy obvios (ej: "El sol sale por el..."), filtrar a top-50 puede incluir palabras absurdas. En contextos ambiguos, top-50 puede ser insuficiente.

Top-P (nucleus sampling): filtro dinámico

Top-P (también llamado nucleus sampling) es un filtro más inteligente que se adapta a cada contexto. En lugar de un número fijo K, establece una cuota de probabilidad acumulativa.

Funcionamiento

1. Ordenar palabras por probabilidad (descendente)
2. Sumar probabilidades acumulativamente
3. Incluir palabras hasta que la suma alcance P%
4. Descartar el resto

Valores comunes

P = 0.1 (10%): Extremadamente conservador

• Solo incluye las palabras que juntas representan el 10% del "pastel" de probabilidad
• Generalmente 1-2 palabras muy probables
• Casi determinista

P = 0.5 (50%): Conservador

• Incluye palabras hasta cubrir la mitad de la probabilidad total
• Reduce significativamente la variedad

P = 0.9 (90%): Balance estándar

• Configuración más común en producción
• Descarta el 10% menos probable (la "cola larga")
• Mantiene coherencia mientras permite creatividad

P = 0.95 (95%): Más flexible

• Descarta solo el 5% menos probable
• Mayor variedad sin caer en incoherencias

Ventajas sobre top-K

Top-P es adaptativo:

Contexto obvio: "El sol sale por el..."

• Solo 1-2 palabras tienen alta probabilidad ("este", "oriente")
• Top-P=0.9 incluye solo esas 2 palabras
• Top-K=50 incluiría 48 palabras absurdas

Contexto ambiguo: "El personaje sintió..."

• Muchas emociones son plausibles (alegría, tristeza, miedo, etc.)
• Top-P=0.9 incluye 10-15 palabras razonables
• Top-K=5 descartaría opciones válidas

Orden de aplicación

Los tres parámetros se aplican secuencialmente en este orden:

1. Temperatura

Redistribuye las probabilidades originales

2. Top-K

Filtra todo lo que esté fuera de los primeros K candidatos

3. Top-P

Aplica cuota acumulativa sobre los candidatos sobrevivientes

Ejemplo completo

Configuración: Temperatura=0.7, Top-K=40, Top-P=0.9

Paso 1 (Temperatura):

• Modelo original: "el" (50%), "un" (30%), "una" (15%), ...
• Temperatura 0.7: "el" (42%), "un" (28%), "una" (18%), ... (redistribución)

Paso 2 (Top-K):

• Conservar solo las 40 palabras con mayor probabilidad
• Descartar el resto

Paso 3 (Top-P):

• De esas 40, incluir solo las que juntas sumen 90%
• Por ejemplo, si las primeras 15 ya suman 90%, descartar las otras 25

Paso 4 (Muestreo):

• Sortear entre las palabras finales según sus probabilidades

Configuraciones comunes en producción

Fáctico (precisión)

• Temperatura: 0.1 - 0.3
• Top-K: 1 - 10
• Top-P: 0.1 - 0.5
• Uso: Extracción de datos, código, clasificación

Equilibrado (conversacional)

• Temperatura: 0.7 - 0.8
• Top-K: 40 - 50
• Top-P: 0.9
• Uso: Chatbots, asistentes, resúmenes
• Nota: Esta es la configuración más común en la industria

Creativo (generación)

• Temperatura: 1.0 - 1.5
• Top-K: 50 - 100
• Top-P: 0.95
• Uso: Escritura creativa, brainstorming, marketing

Impacto en la calidad de respuestas

Temperatura muy baja → repetitividad

El modelo puede caer en loops (repetir la misma frase una y otra vez) porque siempre elige las mismas palabras.

Temperatura muy alta → incoherencia

El modelo genera texto aleatorio sin sentido porque palabras raras tienen probabilidades equiparables a palabras comunes.

Top-K muy bajo → predecibilidad excesiva

Respuestas robóticas, sin matices ni variedad.

Top-K muy alto → ruido innecesario

Incluye palabras extremadamente improbables que nunca deberían considerarse.

Top-P muy bajo → determinismo

Similar a temperatura baja, pero de forma más abrupta.

Top-P muy alto → sin filtrado real

No descarta suficiente "ruido" de la cola larga de probabilidades.

Frequency penalty y presence penalty

Algunos APIs (como OpenAI) ofrecen parámetros adicionales:

Frequency penalty (-2.0 a 2.0)

Penaliza palabras que ya aparecieron en el texto generado. Mayor valor = mayor penalización.

Uso: Reducir repetitividad en textos largos.

Presence penalty (-2.0 a 2.0)

Penaliza palabras que aparecieron al menos una vez (sin importar cuántas veces).

Uso: Fomentar diversidad de vocabulario.

Consideraciones de costo

Curiosamente, los parámetros de muestreo no afectan el costo de las APIs de LLMs. El costo se basa en:

• Tokens de entrada (prompt)
• Tokens de salida (completion)

Temperatura, Top-K y Top-P solo modifican cómo se muestrean los tokens, no cuántos se generan.

Experimentos sugeridos

Para entender estos conceptos, prueba el simulador interactivo arriba con estos ejercicios:

Ejercicio 1: efecto de temperatura

• Usa el ejemplo "La inteligencia artificial es..."
• Ajusta solo la temperatura de 0.1 a 1.5
• Observa cómo las probabilidades se redistribuyen

Ejercicio 2: comparación Top-K vs Top-P

• Ejemplo "En un mundo ideal..."
• Fija temperatura en 0.7
• Compara Top-K=5 con Top-K=50
• Compara Top-P=0.3 con Top-P=0.9

Ejercicio 3: configuraciones reales

• Prueba los presets: Fáctico, Equilibrado, Creativo
• Observa cómo cambian las distribuciones para el mismo contexto

Conclusión

Los parámetros de muestreo son herramientas poderosas para controlar el comportamiento de los LLMs. No hay valores "correctos" universales - dependen completamente del caso de uso:

• ¿Necesitas precisión? → Temperatura baja, Top-K/Top-P conservadores
• ¿Necesitas creatividad? → Temperatura alta, Top-K/Top-P flexibles
• ¿Necesitas balance? → Temperatura 0.7, Top-K40, Top-P~0.9

El simulador arriba te permite experimentar visualmente con estos conceptos. Los datos son simulados con fines educativos - el objetivo es que internalices cómo funcionan estos mecanismos fundamentales antes de aplicarlos en producción.