Qué es la 'temperatura' de un modelo y cómo cambia sus respuestas

Le hice la misma pregunta al mismo modelo cinco veces seguidas: "dame un nombre para una cafetería". La primera vez me dijo "Aroma". La segunda, "Aroma". La tercera, "Aroma". Empecé a pensar que la máquina tenía una fijación. Entonces moví un solo número (uno que la mayoría de la gente nunca toca) y volví a preguntar. "Cuervo Insomne". "Tercer Riel". "La Hora Azul". El modelo no había cambiado ni una neurona. Solo había subido su temperatura.

La temperatura es, junto a un puñado de ajustes hermanos, el dial que decide cuánto se atreve una IA. No cambia lo que el modelo sabe; cambia cuánto se arriesga a decir. Es la diferencia entre un empleado que siempre da la respuesta más segura y otro al que le soltaste la correa. Y como con cualquier subordinado, el problema no es que la correa exista: es saber cuándo aflojarla y cuándo no.

01 · la barajaQué es la temperatura en IA, en una frase

Empecemos por la respuesta directa, porque para eso viniste. La temperatura es un número que controla cuánto azar mete el modelo al elegir su próxima palabra. Temperatura baja: elige casi siempre lo más probable, aburrido pero fiable. Temperatura alta: se permite elegir opciones menos obvias, creativo pero impredecible. Eso es todo el concepto. El resto de este artículo es entender por qué existe y cómo usarlo sin quemarte.

Para verlo hay que recordar una cosa: un modelo de lenguaje no "escribe", apuesta. En cada paso mira todo lo que lleva escrito y calcula, para cada palabra posible del idioma, qué tan probable es que venga a continuación. No entrega una palabra: entrega una baraja entera con probabilidades. "Después de El gato se subió al…", quizá calcula 60 % tejado, 15 % árbol, 8 % sofá, y una cola larguísima de opciones raras con migajas de probabilidad cada una.

El modelo no elige una palabra: reparte una baraja de probabilidades. La temperatura decide con cuánta disciplina la juega.

La temperatura entra justo ahí, entre la baraja y la elección. Es un factor que estira o aplana esas probabilidades antes de que el modelo saque una carta. Con temperatura baja, la carta más probable se vuelve casi obligatoria: "tejado" pasa de 60 % a 95 %. Con temperatura alta, las diferencias se emparejan: "tejado" baja, "sofá" y hasta "tobogán" ganan chances. El conocimiento del modelo es idéntico en los dos casos. Lo único que movió fue la disposición a apostar por lo poco probable.

02 · el termostatoDe dónde salió esa palabra tan rara

"Temperatura" suena a metáfora simpática, pero no lo es del todo. El nombre viene de la física, en serio. La fórmula que el modelo usa para convertir sus cálculos crudos en probabilidades se llama softmax, y es prima de una ecuación que describe cómo se distribuye la energía entre partículas según su temperatura (la distribución de Boltzmann). En esa física, más temperatura significa más agitación, más desorden, estados menos probables volviéndose accesibles. Los investigadores que llevaron esa matemática a las redes neuronales se quedaron con el nombre porque el comportamiento es idéntico.

El parámetro tiene raíces hondas. Aparece ya en 1985 en las máquinas de Boltzmann de Ackley, Hinton y Sejnowski, donde la "temperatura" gobernaba literalmente cuánto ruido metía el sistema al buscar soluciones [1]. Tres décadas después, Hinton, Vinyals y Dean lo formalizaron para redes modernas: dividir cada cálculo crudo del modelo por un número T antes de aplicar softmax, y ese T es la temperatura [2]. Con T = 1 dejas la baraja tal cual. Con T menor a 1 la afilas hacia la opción ganadora. Con T mayor a 1 la aplanas hacia el caos.

03 · el dialCuándo subirla, cuándo bajarla

Aquí es donde el concepto deja de ser curiosidad y se vuelve una decisión que te toca a ti. La temperatura no tiene un valor "correcto": tiene un valor correcto para la tarea. Y confundir las tareas es la fuente número uno de frustración con estas herramientas: la gente le pide creatividad a una temperatura de contador, o le pide precisión a una temperatura de poeta, y luego culpa al modelo.

Cuándo bajarla. Todo lo que tenga una respuesta correcta y una sola. Extraer la fecha de una factura, clasificar un correo, traducir un término técnico, resolver una cuenta, devolver un formato exacto. Ahí no quieres imaginación: quieres que acierte y que repita el acierto. Temperatura baja, cerca de cero.

Cuándo subirla. Todo lo que tenga muchas respuestas buenas posibles y ninguna obligatoria. Lluvia de ideas, nombres, variaciones de un texto publicitario, giros de una historia, salir de un bloqueo. Una temperatura baja aquí te devuelve la misma opción evidente una y otra vez (mi cafetería "Aroma"). Subirla abre la baraja y deja entrar lo inesperado.

No hay una temperatura correcta. Hay una temperatura correcta para lo que le estás pidiendo.

Un aviso de crianza, porque de eso va mi oficio: subir la temperatura no crea inteligencia, crea variedad. Si la sigues empujando hacia arriba, el modelo no se vuelve más genial, se vuelve más borracho. Empieza a elegir palabras cada vez menos probables hasta que la coherencia se rompe: frases que arrancan bien y se disuelven en ruido, o esa cola larga de opciones absurdas que nunca debieron entrar al juego. Por eso en la práctica casi nadie usa las temperaturas máximas: el sabor está en el punto medio-alto, no en el extremo.

04 · los primosLa temperatura no viaja sola

Para ser honesta contigo: la temperatura tiene hermanos que hacen un trabajo parecido, y conviene que sepas que existen para no atribuirle todo a ella. El más común se llama top-p (o "muestreo por núcleo"). En vez de aplanar toda la baraja, top-p recorta: se queda solo con las palabras más probables cuya suma llega, digamos, al 90 % de la probabilidad, y tira el resto a la basura. Así impide que esa cola de opciones absurdas entre nunca, por más alta que esté la temperatura.

Investigadores como Holtzman y su equipo mostraron en 2020 por qué esto importa: elegir siempre lo más probable produce textos que se repiten y se quedan atascados en bucles, mientras que dejar entrar demasiado azar produce incoherencia. El buen texto vive en un punto intermedio, y estos diales (temperatura y top-p juntos) son cómo se sintoniza ese punto [3]. En la práctica se ajusta uno de los dos y se deja el otro quieto; mover ambos a la vez es receta para no entender qué está pasando.

La lección que me llevo, después de años mirando cómo se comportan estos sistemas, es casi doméstica. La temperatura no es un botón técnico escondido para ingenieros: es el control de tono. Cuando una IA te suena repetitiva y sosa, quizá no le falta capacidad, le sobra disciplina. Y cuando te suelta un disparate creativo precioso pero inutilizable, quizá no está rota: solo tiene la correa demasiado larga para lo que le pediste. Aprender a mover ese dial es dejar de sufrir a la máquina y empezar a dirigirla.