Claude a diario: esto es lo que pasa cuando pulsas enviar
Por qué no sabe contar las letras de una palabra, por qué olvida lo que le dijiste hace veinte mensajes y por qué a veces se inventa una cita con total aplomo. Todo tiene la misma explicación.
Si has llegado a este capítulo saltándote los dos módulos anteriores, hiciste bien. Este es el atajo para quien ya usa un asistente de IA todos los días y quiere entender qué hay debajo.
Y probablemente ya te hayan pasado cosas raras. Le pediste que contara cuántas erres tiene «ferrocarril» y falló. Le recordaste algo del principio de la conversación y no lo tenía. Te dio una referencia bibliográfica perfecta que resultó no existir. Nada de eso son errores puntuales: son consecuencias directas de cómo funciona el sistema.
Vamos a verlo con Claude como ejemplo, pero todo lo que sigue aplica igual a cualquier asistente basado en un modelo de lenguaje.
La idea que lo explica todo
Un modelo de lenguaje hace una sola cosa: dado un texto, calcula qué fragmento es más probable que venga a continuación. Lo añade, vuelve a mirar el texto completo, y calcula el siguiente. Y así hasta terminar.
Eso es todo. La conversación, el tono, el razonamiento aparente y la sensación de que te entiende emergen de repetir esa operación millones de veces sobre un modelo entrenado con cantidades enormes de texto. No hay una base de datos de respuestas ni una consulta a un almacén de hechos.
1. No lee palabras, lee tokens
El modelo no ve letras ni palabras: ve tokens, que son fragmentos de texto. A veces un token es una palabra entera, a veces media, a veces un signo de puntuación. Una regla mental aproximada: en español, un token viene a ser unos tres caracteres de media, y el español consume algo más de tokens que el inglés para decir lo mismo.
De aquí sale el fallo de las letras. Cuando le pides que cuente las erres de «ferrocarril», el modelo no está mirando una secuencia de letras: está mirando dos o tres bloques que representan esa palabra. Contar caracteres dentro de un token es como pedirle a alguien que cuente los ladrillos de una casa mirando una foto de la fachada de lejos. Puede acertar por aproximación, y falla más de lo que debería.
Lo mismo ocurre con «escribe una frase de exactamente 12 palabras», con los acrósticos y con los juegos de letras. No es que sea tonto: es que está trabajando en una unidad distinta de la que tú le pides.
2. No recuerda: relee
Esta es la que más sorprende. El modelo no tiene memoria de la conversación en el sentido en que la tienes tú. Cada vez que pulsas enviar, se le manda la conversación entera otra vez —tu primer mensaje, su respuesta, el segundo, todo— y sobre ese bloque completo calcula lo siguiente.
Ese bloque tiene un tamaño máximo, y se llama ventana de contexto. Es como una mesa de trabajo: cabe mucho, pero no infinito. Cuando la conversación se alarga demasiado, lo primero deja de caber.
Todo lo que hayas escrito sigue disponible mientras quepa. Por eso conviene dar contexto al principio y seguir en la misma conversación.
Salvo que la herramienta incorpore una función de memoria explícita, una conversación nueva empieza en blanco. No sabe nada de lo que hablasteis ayer.
Corregirle no lo «entrena». Aprende dentro de esa conversación porque tu corrección está en la mesa, no porque haya modificado nada de sí mismo.
Cosa distinta es si el proveedor usa o no las conversaciones para entrenar versiones futuras. Eso depende de la política del servicio y de tus ajustes de privacidad, y conviene mirarlo si trabajas con información sensible.
3. Por qué se inventa cosas
Vuelve a la idea del principio: el modelo genera el fragmento más plausible que sigue. Cuando le pides una sentencia del Tribunal Supremo sobre un asunto concreto, no consulta ninguna base de datos jurídica. Genera algo que tiene forma de referencia a una sentencia: un número verosímil, una fecha verosímil, una sala verosímil.
Si esa sentencia estaba muy presente en los textos con los que se entrenó, la clavará. Si no, producirá algo que parece correcto y no lo es. Y aquí está la parte incómoda: no distingue entre los dos casos. No es que te mienta. Es que no sabe que no sabe.
- Referencias concretas. Citas bibliográficas, números de sentencia, artículos de una ley, DOI de un paper. Son el terreno más peligroso porque el formato es fácil de imitar.
- Cifras. Estadísticas, porcentajes, importes. Suenan precisas y por eso convencen.
- Detalles de personas o empresas poco documentadas. Cuanto menos presente esté algo en internet, más probable es el invento.
- Todo lo muy reciente. Y eso enlaza con el punto siguiente.
La buena noticia es que el remedio es sencillo: cuando el dato importa, pide que busque en la web —si la herramienta lo permite— o pega tú la fuente en la conversación. Con el texto delante, el modelo deja de adivinar y pasa a leer.
4. Por qué no sabe qué pasó ayer
El entrenamiento termina en algún momento. A partir de ahí, el modelo no incorpora nada nuevo por su cuenta: es una foto fija del texto que existía hasta esa fecha. A ese momento se le llama corte de conocimiento.
Por eso puede no conocer un producto lanzado el mes pasado, una ley aprobada hace poco o el resultado de unas elecciones recientes. Y por eso, cuando le preguntas quién ocupa hoy un cargo determinado, la respuesta puede ser correcta o puede estar meses obsoleta sin que él lo advierta.
Cuando el asistente tiene búsqueda web activada, esto cambia: consulta, lee resultados y responde con ellos. Es una diferencia enorme y conviene saber en qué modo estás trabajando. Un modelo con acceso a la web te da información actual; sin él, te da lo que recuerda de su entrenamiento.
5. Por qué la misma pregunta da respuestas distintas
Porque en cada paso el modelo no elige siempre la opción más probable: elige entre las más probables con cierto grado de aleatoriedad. Si eligiera siempre la primera, el texto resultaría repetitivo y mecánico.
La consecuencia práctica es que una respuesta que no te convence merece un segundo intento antes de darla por buena. Y también al revés: que algo suene bien a la primera no significa que sea el mejor resultado posible.
Qué cambia esto en cómo lo usas
Seis costumbres que salen directamente de lo anterior, no de una lista genérica de trucos.
Si quieres que trabaje sobre un documento, un contrato o un correo, dáselo. Todo lo que esté en la conversación lo tiene delante; todo lo que no, se lo inventa.
Mezclar cinco asuntos en la misma conversación llena la ventana de ruido y empeora las respuestas. Cuando cambies de tarea, abre un hilo nuevo con el contexto necesario.
Pídele un resumen de lo acordado hasta ese punto, cópialo y arranca una conversación nueva con él. Recuperas espacio y precisión de golpe.
Cifras, citas normativas y referencias bibliográficas. Son exactamente donde más se inventa y donde más creíble resulta el invento. Si no puedes comprobarlo, no lo publiques.
Como genera texto de izquierda a derecha, obligarle a desarrollar el razonamiento antes de dar la respuesta mejora los resultados en problemas con varios pasos. No es magia: es darle espacio para trabajar.
Contar caracteres, hacer acrósticos o ajustar a un número exacto de palabras son tareas que chocan con su unidad de trabajo. Para eso, un editor de texto.
Un asistente de IA no es un buscador con modales ni una enciclopedia que conversa. Es un generador de texto extraordinariamente bueno prediciendo qué viene después. Cuando lo tratas como lo que es —dándole material, acotando la tarea y verificando lo verificable— resulta utilísimo. Cuando lo tratas como una fuente de verdad, tarde o temprano te la juega.
Sigue por aquí
- Prompts y enfoques que vale la pena conocer — el siguiente paso natural: cómo escribir la instrucción.
- IA, aprendizaje automático y deep learning — si quieres situar los modelos de lenguaje dentro del mapa general.
- Volver al temario del curso — para ver qué viene en el resto del módulo 3.
Nota sobre este capítulo
Los mecanismos descritos —tokenización, ventana de contexto, corte de conocimiento, muestreo— son comunes a los asistentes basados en modelos de lenguaje. Se ha usado Claude como ejemplo por ser una de las herramientas más extendidas, pero lo explicado aplica igual a los demás.
Deliberadamente no se citan tamaños de ventana de contexto, fechas de corte ni nombres de versión: cambian cada pocos meses y una cifra concreta convertiría este capítulo en material caducado. Esos datos están en la documentación oficial de cada proveedor, que es donde conviene consultarlos.
Contenido divulgativo de carácter general. Antes de introducir información personal, confidencial o de terceros en cualquier asistente de IA, revisa las condiciones de uso y la política de privacidad del servicio y los ajustes de tu cuenta.