Cómo "lee" un LLM: embeddings y el mapa de significados
Los LLM no leen palabras, leen coordenadas. Entiende qué es un embedding y por qué cada palabra de tu prompt mueve el foco del modelo hacia un "barrio" distinto de significados.
Aquí va una idea que cambia cómo escribes prompts: los LLM no leen palabras, leen coordenadas. Cada término que escribes se convierte en una ubicación dentro de un espacio matemático llamado embedding, que captura su significado y lo conecta con las palabras cercanas.
¿Qué es un embedding?
Un embedding (o representación vectorial) es una secuencia de números que ubica una palabra en un espacio matemático de muchas dimensiones. Su posición refleja el significado de la palabra y su cercanía con otras similares.
Imagina una biblioteca gigante donde cada libro está ordenado por tema: cada palabra recibe una "dirección" precisa, como un GPS lingüístico. Las máquinas solo entienden números, así que estos vectores funcionan como el ADN de una palabra.
perro → [0.2, -0.5, 0.8, 0.3]
gato → [0.21, -0.48, 0.79, 0.31]Las letras son distintas, pero los números son casi idénticos porque ambos son mamíferos domésticos y animales: viven muy cerca uno del otro.
Cercanía = parecido de significado
En este espacio, la proximidad equivale a similitud semántica: rey ↔ reina, hospital ↔ doctor, azul ↔ rojo. Lo que para nosotros es sentido común, para un LLM es pura geometría.
Incluso se puede hacer aritmética con conceptos:
rey − hombre + mujer ≈ reinaEl modelo captura relaciones complejas sumando y restando coordenadas.
¿Cuántas dimensiones?
Los humanos imaginamos 3 dimensiones; los LLM usan cientos o miles (por ejemplo 768, 1024, 1536, 2048 o más, según el modelo). Cada dimensión es una característica distinta que el modelo usa para clasificar el significado, y es imposible visualizarlas directamente.
Una herramienta para curiosear es el Embedding Projector. Si buscas "queen", verás cerca palabras como Elizabeth, Anne, King, Mary, Princess y Catherine. Esa cercanía viene del entrenamiento con literatura abierta, donde la reina Elizabeth aparece miles de veces junto a "queen".
LLM vs. teclado predictivo
| Teclado predictivo (ej. WhatsApp) | LLM |
|---|---|
| Solo adivina la siguiente palabra después de la actual | Mueve su atención hacia una región de significado |
| No busca significado ni entiende la intención | Construye una respuesta coherente con el contexto |
| No puede escribir un correo completo | Puede redactar textos completos y contextuales |
Por ejemplo, al escribir "el cielo está", la atención del LLM se desplaza hacia la región del espacio vectorial relacionada con el clima y construye una respuesta coherente desde ahí.
Qué significa esto para tus prompts
Cada palabra que escribes funciona como una orden que mueve el foco del modelo hacia un "barrio" concreto de significados. Cambiar una sola palabra cambia el contexto y, con él, la calidad de la respuesta.
- Elige palabras precisas, no genéricas, para apuntar al barrio semántico correcto.
- Escribe en tu idioma nativo siempre que el modelo lo soporte bien: en un idioma que no dominas pierdes matices culturales y sutilezas, y esos detalles son los que activan los embeddings adecuados.
- Los sinónimos son cercanos pero no intercambiables: cada uno carga connotaciones distintas y mueve la respuesta de forma diferente.
- Trata cada término como un input de dirección: redactar no es cosmético, orienta la atención del modelo.
Experimento rápido
Prueba tú mismo la operación rey − hombre + mujer con una demo de embeddings o con el Embedding Projector y anota qué resultado obtienes.
Ideas clave
- Un embedding es un conjunto de coordenadas que codifica el significado de una palabra.
- Cerca en el espacio = parecido en significado.
- Cada palabra de tu prompt dirige la atención del modelo hacia una región concreta.
- Usa palabras precisas y escribe en tu idioma nativo cuando puedas.