Un LLM, o modelo de lenguaje grande, no entiende el lenguaje como lo hace una persona. Genera texto calculando, palabra a palabra, cuál es la continuación más probable según patrones extraídos de miles de millones de frases. El funcionamiento interno de un LLM se parece mucho más a una máquina estadística muy sofisticada que a una mente pensante, y esa distinción importa para entender tanto lo que puede hacer como lo que falla.
Esto no es una crítica ni un elogio: es la descripción técnica de lo que ocurre dentro de modelos como GPT-4, Gemini o Claude cuando escribes una pregunta y recibes una respuesta. Saber qué hay detrás de esa respuesta cambia la forma en que uno decide confiar en ella.
¿Qué es exactamente un modelo de lenguaje grande?
Un modelo de lenguaje grande es una red neuronal artificial entrenada sobre enormes volúmenes de texto para predecir secuencias de palabras. La palabra “grande” no es un adorno: se refiere al número de parámetros, que son los valores numéricos que el modelo ajusta durante el entrenamiento. GPT-4 tiene, según estimaciones no confirmadas por OpenAI, más de un billón de parámetros. Llama 3, de Meta, tiene versiones que van desde 8.000 millones hasta 70.000 millones.
Cada parámetro es un número que codifica, de forma distribuida, algo sobre cómo el lenguaje funciona. No hay una neurona dedicada a saber que París es la capital de Francia: esa información está repartida entre millones de parámetros que juntos producen la respuesta correcta cuando se les pregunta.
El entrenamiento consiste en mostrar al modelo fragmentos de texto con la última palabra tapada y pedirle que la adivine. Cuando falla, el error se usa para ajustar los parámetros. Este proceso se repite durante semanas o meses sobre conjuntos de datos que pueden superar el billón de palabras, usando miles de procesadores en paralelo. El resultado es un modelo que ha aprendido a imitar la estructura del lenguaje humano con una fidelidad asombrosa, aunque sin haber comprendido nada en el sentido que damos a esa palabra.
¿Cómo procesa el texto un LLM por dentro?
El funcionamiento interno de un LLM empieza por convertir el texto en números. Antes de que el modelo procese una sola palabra, el texto se divide en unidades llamadas tokens, que no equivalen exactamente a palabras: pueden ser sílabas, sufijos o palabras completas, según el vocabulario del modelo. GPT-4 usa un vocabulario de unos 100.000 tokens. La frase “El gato duerme” podría convertirse en tres o cuatro tokens distintos.
Cada token se traduce a un vector, una lista de números en un espacio matemático de alta dimensión. Tokens con significados relacionados acaban siendo vectores cercanos entre sí en ese espacio. Así, “rey” y “reina” estarán más cerca el uno del otro que “rey” y “semáforo”. Esa cercanía captura relaciones semánticas sin que nadie las haya programado explícitamente: emergen del entrenamiento.
A continuación, el texto pasa por las capas del modelo. Cada capa es una transformación matemática que reformula los vectores teniendo en cuenta el contexto de todo lo que ha aparecido antes en la frase. El mecanismo clave aquí se llama atención (en inglés, attention), introducido por Google en 2017 en el artículo “Attention is All You Need”. La atención permite que el modelo, al procesar una palabra concreta, “mire” hacia atrás en el texto y decida qué otras palabras son más relevantes para entenderla en ese momento.
Modelos como GPT-4 tienen decenas de estas capas apiladas. Cada una refina la representación del texto un poco más. Al final de la última capa, el modelo produce una distribución de probabilidades sobre todos los tokens posibles y elige el siguiente. Luego repite el proceso con ese token ya incluido, y así genera texto de forma secuencial.
Este proceso explica por qué los LLM a veces “alucinan”, es decir, producen afirmaciones falsas con total confianza. El modelo no consulta hechos: genera el token más probable dadas las circunstancias, y a veces lo más probable estadísticamente es incorrecto. No existe ningún mecanismo interno que verifique si lo que se genera es verdad.
¿Qué ocurre durante el ajuste fino y el alineamiento?
El entrenamiento inicial produce un modelo capaz de continuar cualquier texto, pero no necesariamente útil ni seguro como asistente. Para convertirlo en algo como ChatGPT o Claude hace falta un segundo proceso: el ajuste fino supervisado y, después, el aprendizaje por refuerzo con retroalimentación humana, conocido como RLHF por sus siglas en inglés.
En el ajuste fino, el modelo recibe ejemplos de conversaciones bien resueltas y aprende a imitar ese estilo de respuesta. En el RLHF, evaluadores humanos puntúan distintas respuestas del modelo, y esas puntuaciones entrenan un modelo auxiliar que aprende a predecir qué respuestas gustarán más. El LLM entonces se ajusta para maximizar esas puntuaciones.
Este proceso es lo que hace que un modelo responda de forma más útil, rechace peticiones peligrosas o mantenga un tono conversacional. También es lo que determina los límites que el modelo tiene programados y los que simplemente emergen del entrenamiento sin que nadie los haya diseñado. El alineamiento no es una capa de seguridad añadida al final: está cosido en los propios parámetros del modelo.
Lo que no hace el alineamiento es dar al modelo comprensión o conciencia. El modelo ajustado sigue siendo una máquina de predicción de tokens. Ha aprendido a predecir los tokens que un evaluador humano consideraría buenos. Eso puede ser útil, pero es distinto de tener criterio propio.
¿Por qué los LLM fallan de formas tan predecibles?
El LLM funcionamiento interno revela los patrones de fallo antes de que ocurran. Las alucinaciones surgen porque el modelo no tiene acceso a una base de verdad externa durante la generación: solo tiene los patrones del entrenamiento y el contexto de la conversación. Si la pregunta cae fuera de lo que los datos de entrenamiento cubren bien, el modelo extrapola, y la extrapolación puede ser plausible pero errónea.
Otro fallo característico es la sensibilidad al orden y al formato de la pregunta. Un LLM puede dar respuestas distintas a la misma pregunta formulada de dos formas diferentes, porque el texto de entrada influye directamente en las probabilidades de los tokens de salida. Esto no es un defecto de implementación: es una consecuencia directa de cómo funciona la atención.
También están los sesgos. Si los datos de entrenamiento contienen asociaciones estadísticas entre ciertos grupos humanos y ciertas características, el modelo las aprende. No porque tenga prejuicios en ningún sentido moral, sino porque aprende los patrones del texto que ha visto. Como vimos en otro contexto, los algoritmos que moldean nuestra experiencia digital tienden a reproducir y amplificar las desigualdades presentes en los datos con los que se construyeron.
La ventana de contexto es otra limitación concreta. Un LLM solo puede “ver” una cantidad limitada de texto a la vez: los modelos actuales van desde los 8.000 tokens de algunas versiones de Llama hasta los 2 millones de tokens de Gemini 1.5 Pro. Lo que queda fuera de esa ventana desaparece para el modelo.
¿Qué diferencia a los LLM actuales de los de hace cinco años?
La escala es el cambio más obvio. GPT-2, publicado por OpenAI en 2019, tenía 1.500 millones de parámetros y sus textos se notaban artificiales. GPT-3, en 2020, pasó a 175.000 millones y dio un salto cualitativo que nadie había anticipado del todo. La investigación en IA ha documentado que ciertos comportamientos emergen de forma abrupta al superar ciertos umbrales de escala, lo que se conoce como capacidades emergentes.
Además de la escala, han mejorado las técnicas de entrenamiento, los datos (más cuidadosamente filtrados), la arquitectura de atención y los métodos de alineamiento. Modelos como Claude 3 Opus, de Anthropic, o Gemini Ultra, de Google DeepMind, incorporan variantes de la arquitectura transformer original que mejoran la eficiencia sin cambiar el principio de funcionamiento.
También ha cambiado la capacidad multimodal. Los modelos de lenguaje ya procesan imágenes, audio y vídeo además de texto, aunque el mecanismo central sigue siendo el mismo: convertir la entrada en tokens, procesarlos con atención y predecir la salida más probable. La aceleración que se produjo en 2026 no cambió la arquitectura de fondo: la sofisticó.
Lo que no ha cambiado es la naturaleza estadística del proceso. Un LLM más grande sigue siendo, en lo esencial, una máquina de predicción de tokens. Eso no le resta utilidad, pero sí condiciona cómo debería usarse y cuánto debería confiarse en sus respuestas sin verificación adicional.
Los agentes de IA que actúan de forma autónoma, por ejemplo, se construyen encima de LLM: el modelo de lenguaje decide qué hacer en cada paso, pero sigue generando texto (instrucciones, código, razonamientos) token a token. La complejidad visible de los sistemas de IA que actúan de forma autónoma no altera el mecanismo subyacente del LLM que los impulsa.
Esto también tiene implicaciones para ámbitos donde las consecuencias de una respuesta incorrecta son graves. Un LLM que asiste en decisiones judiciales, médicas o financieras no está aplicando razonamiento verificado: está generando la continuación más probable de un texto. La diferencia entre ambas cosas es enorme, aunque el resultado parezca igual de fluido y seguro. Cuando la IA se introduce en los tribunales, ese mecanismo estadístico no desaparece: solo queda oculto bajo una apariencia de autoridad.
La buena noticia es que comprender el funcionamiento interno de un LLM no requiere saber matemáticas avanzadas. Requiere aceptar que detrás de las respuestas más elaboradas hay una operación que, en su núcleo, consiste en completar frases de manera muy sofisticada. A partir de ahí, cada usuario puede decidir cuándo esa sofisticación es suficiente y cuándo necesita algo más.
Los modelos de lenguaje han demostrado ser herramientas poderosas para resumir, redactar, programar o razonar sobre textos. También han demostrado que sectores como el desarrollo de software ya sienten su peso de formas muy concretas. Conocer qué hay dentro no quita utilidad a los modelos: añade criterio al uso.
¿Llegará un momento en que un LLM realmente entienda lo que dice?
Esta es la pregunta que divide a los investigadores. Hay quienes argumentan que el entendimiento es, en parte, un patrón estadístico sobre la experiencia, y que un modelo suficientemente grande y bien entrenado se aproxima a algo funcionalmente equivalente a la comprensión. Otros sostienen que predecir el siguiente token no es comprender, y que ninguna escala de parámetros cambia esa distinción de fondo.
Lo que sí sabemos es que los LLM actuales tienen puntos ciegos muy específicos: fallan en matemáticas elementales cuando los números cambian ligeramente, no pueden actualizar su conocimiento tras el entrenamiento sin ayuda externa, y no saben cuándo no saben algo. Un humano con comprensión real reconoce su propia ignorancia. Un LLM, en cambio, genera la respuesta más probable aunque esa respuesta sea inventada.
La pregunta de si algún día habrá comprensión genuina dentro de una arquitectura de este tipo conecta directamente con los debates sobre inteligencia artificial general, un territorio donde la especulación supera con creces a la evidencia. Lo que sí es posible rastrear son los límites concretos de lo que la IA general no puede hacer, más allá de los titulares optimistas.
Queda, entonces, la pregunta que ningún paper ha respondido todavía: si un sistema puede imitar la comprensión con suficiente precisión para ser indistinguible de ella en la práctica, ¿importa lo que ocurra dentro?
Preguntas frecuentes
¿Qué significa exactamente que un LLM “alucine”?
Una alucinación en un LLM es una respuesta fluida y convincente que contiene información falsa. Ocurre porque el modelo no verifica hechos: genera el token más probable dadas las circunstancias. Si la probabilidad más alta corresponde a una afirmación incorrecta, el modelo la produce sin ninguna señal de alerta interna. No hay mecanismo automático que distinga lo verdadero de lo plausible.
¿Cuántos parámetros necesita un LLM para ser útil?
Depende de la tarea. Modelos con 7.000 millones de parámetros, como versiones pequeñas de Llama 3 o Mistral 7B, son suficientemente competentes para muchas tareas de redacción, resumen y código sencillo, y pueden ejecutarse en ordenadores personales de gama alta. Para razonamiento complejo o conocimiento muy amplio, los modelos de 70.000 millones de parámetros o más ofrecen un salto de calidad notable.
¿Un LLM aprende de las conversaciones que tiene conmigo?
Los modelos en producción como ChatGPT o Claude no actualizan sus parámetros en tiempo real durante las conversaciones. Lo que dices en una sesión influye solo en el contexto de esa misma sesión. El modelo puede usar conversaciones pasadas si la empresa las incluye en el entrenamiento futuro, algo que cada plataforma regula de forma distinta en sus términos de uso.
¿Por qué un LLM da respuestas distintas a la misma pregunta?
Porque la generación no es determinista por defecto. Los modelos incorporan un parámetro llamado temperatura que introduce variabilidad aleatoria en la elección del siguiente token. Con temperatura alta, el modelo explora opciones menos probables y produce respuestas más variadas. Con temperatura cero, siempre elige el token más probable y la salida es reproducible. La mayoría de interfaces usan valores intermedios.
¿Qué diferencia hay entre un LLM y un buscador como Google?
Un buscador recupera documentos existentes y los ordena por relevancia. Un LLM genera texto nuevo basándose en patrones aprendidos durante el entrenamiento, sin consultar ninguna fuente externa a menos que esté conectado a herramientas adicionales. La diferencia práctica es importante: el buscador puede mostrarte la fuente original; el LLM produce una síntesis que puede no tener ninguna fuente real detrás.
¿Es cierto que los LLM tienen sesgos políticos o ideológicos?
Los LLM aprenden los patrones estadísticos de sus datos de entrenamiento, que incluyen todo tipo de textos con sus sesgos implícitos. El proceso de alineamiento puede corregir algunos, pero también puede introducir otros según las preferencias de los evaluadores humanos. Investigaciones académicas han encontrado sesgos medibles en modelos como GPT-4, aunque su magnitud y dirección varía según la prueba usada. No son neutrales por diseño.
