Redes neuronales: la metafora que usamos para no entender lo que pasa

La redes neuronales explicacion más honesta que puedes encontrar empieza admitiendo algo incómodo: nadie entiende del todo cómo funcionan. Ni sus creadores. Usamos la palabra «neuronal» porque fue útil como metáfora hace setenta años, cuando un matemático y un neurocientífico intentaron modelar el cerebro humano con lo que tenían a mano. Esa metáfora se quedó, creció, se hizo enormemente poderosa y hoy nos condiciona tanto que, sin darnos cuenta, confundimos el mapa con el territorio.

El origen de una metáfora muy conveniente

En 1943, Warren McCulloch y Walter Pitts publicaron un modelo matemático inspirado en cómo creían que funcionaban las neuronas biológicas. La idea era elegante: una neurona recibe señales, las suma, y si superan un umbral, dispara una respuesta. Sencillo. Binario. Casi poético en su simplicidad.

Lo que construyeron no era un cerebro. Era una abstracción matemática de algo que todavía hoy los neurocientíficos no comprenden del todo. Pero la palabra «neurona» viajó intacta desde la biología hasta la informática, y con ella viajaron todas sus connotaciones: aprendizaje, inteligencia, pensamiento.

El nombre condicionó cómo pensamos en ellas. Y eso tiene consecuencias que van mucho más allá de la terminología.

Durante décadas, las redes neuronales artificiales fueron una curiosidad académica. Costaban demasiado, los ordenadores no tenían potencia suficiente y los resultados eran mediocres. Pero la idea no murió. Investigadores como Geoffrey Hinton siguieron trabajando en ella cuando casi nadie creía que fuera el camino correcto. Y llegó el momento en que la potencia computacional alcanzó al sueño.

Qué es una red neuronal en realidad

Olvida las imágenes de cerebros digitales que aparecen en cada presentación corporativa. Una red neuronal artificial es, en su forma más básica, una función matemática con millones de parámetros. Recibe una entrada, la transforma a través de capas de operaciones, y produce una salida.

Cada «neurona» artificial es un nodo que recibe números, los multiplica por unos pesos, suma todo y aplica una función de activación. Nada más. No hay nada parecido a un impulso eléctrico, no hay electroquímica, no hay nada que se parezca remotamente a lo que ocurre en los 86.000 millones de neuronas de tu cerebro.

El aprendizaje, en este contexto, significa ajustar esos pesos mediante un proceso llamado retropropagación: el sistema compara su respuesta con la respuesta correcta, calcula el error y va modificando los parámetros para equivocarse menos la próxima vez. Repite eso millones o miles de millones de veces con datos masivos. Eso es el entrenamiento.

Y aquí viene la parte que debería hacernos reflexionar: nadie sabe exactamente qué han aprendido esos pesos. Sabemos que funcionan. No siempre sabemos por qué.

Las capas que nadie puede leer

Una red neuronal moderna tiene lo que se llama capas ocultas. En los modelos actuales de lenguaje o visión artificial, pueden ser cientos. Ahí es donde ocurre la magia, o como prefieren llamarlo los investigadores más rigurosos: donde ocurre la transformación.

El problema es que esas capas son, en la práctica, opacas. Podemos ver lo que entra y lo que sale. Lo que pasa en medio es lo que los especialistas llaman «la caja negra». Existe toda una disciplina, la inteligencia artificial explicable o XAI, dedicada a intentar asomarse a esa caja. Los resultados son parciales, imperfectos y muy discutidos.

Esto no es un detalle menor. Cuando un sistema toma decisiones que afectan tu vida, como ocurre ya en medicina, en justicia o en contratación, no poder explicar por qué decidió lo que decidió es un problema ético y legal de primera magnitud. Ya escribimos sobre esto cuando un algoritmo decide si pasas a la siguiente fase de una selección sin que nadie sepa muy bien con qué criterios.

La opacidad no es un fallo de diseño que se vaya a arreglar en la próxima actualización. Es, en cierta medida, inherente al método. Cuanto más compleja es la red, más difícil es interpretarla.

Por qué la metáfora del cerebro nos hace daño

Hay algo profundamente humano en querer entender lo nuevo comparándolo con algo conocido. Y qué mejor referente que el propio cerebro. Pero esa comparación carga con un bagaje enorme.

Cuando llamamos «aprendizaje» a lo que hace una red neuronal, empezamos a imaginar comprensión. Cuando decimos que «reconoce» una cara, imaginamos algo parecido a la percepción. Cuando un modelo de lenguaje «responde», tendemos a creer que hay alguien ahí dentro pensando la respuesta. La metáfora neuronal activa nuestras intuiciones sobre la mente, y esas intuiciones nos engañan sistemáticamente.

Esto tiene efectos prácticos. Sobreestimamos lo que estos sistemas entienden. Infravaloramos cómo pueden fallar de maneras que ningún humano fallaría. Un modelo de visión artificial puede confundir un panda con un rifle si alteras unos pocos píxeles de una forma que al ojo humano le resulta invisible. Eso no es lo que hace un cerebro. Es algo diferente, con sus propios puntos fuertes y sus propios puntos ciegos radicalmente distintos.

Y sin embargo seguimos usando la misma palabra. Porque es cómoda. Porque vende. Porque nadie quiere explicar álgebra lineal en una rueda de prensa.

Qué aprenden realmente estas redes

Aquí es donde la cosa se pone interesante, y un poco inquietante. Las redes neuronales aprenden patrones estadísticos. Son extraordinariamente buenas en eso. Detectan correlaciones en volúmenes de datos que ningún humano podría procesar, y las codifican en sus millones de parámetros.

Pero correlación no es comprensión. Un modelo puede saber que en las imágenes de perros suele aparecer hierba, y usar eso como señal. Funciona la mayor parte del tiempo. Pero cuando el perro está en casa, puede fallar de formas que a un niño de tres años le resultarían absurdas.

Este fenómeno tiene un nombre técnico: atajo estadístico o sesgo de distribución. Y es una de las razones por las que los investigadores más serios son muy cuidadosos al hablar de lo que las redes neuronales «saben» o «comprenden». Como ya vimos, la inteligencia artificial no miente porque entienda la falsedad: simplemente genera lo que estadísticamente parece correcto.

El asunto se complica cuando pensamos en los datos con los que se entrenan estas redes. Esos datos vienen de nosotros, de lo que hemos escrito, grabado y publicado durante décadas. Y nosotros estamos llenos de sesgos, contradicciones y prejuicios. Las redes aprenden también todo eso. De hecho, ya exploramos cómo enseñamos a las máquinas nuestros prejuicios y ahora nos los devuelven amplificados y con apariencia de objetividad.

El coste de la metáfora en términos de confianza

Hay una consecuencia directa de llamar «neuronal» a algo que no lo es: generamos expectativas equivocadas. Esperamos que estos sistemas sean robustos porque los cerebros son robustos. Esperamos que generalicen bien porque los cerebros generalizan bien. Esperamos que tengan sentido común porque los cerebros tienen sentido común.

Y cuando fallan, nos sorprendemos. Cuando un sistema de reconocimiento facial tiene tasas de error mucho más altas en personas de piel oscura, nos parece un escándalo. Lo es. Pero también es predecible si entiendes lo que realmente está haciendo la red: optimizando sobre un conjunto de datos que reflejaba desigualdades históricas en quién aparecía fotografiado y etiquetado. Esto conecta directamente con el debate sobre los sistemas que predicen comportamientos futuros a partir de datos que ya cargaban con esas mismas desigualdades.

El problema no es solo técnico: es de comunicación. Y la metáfora neuronal lleva décadas complicando esa comunicación.

La explosión actual y lo que no se cuenta

Los últimos años han traído una aceleración sin precedentes. Los grandes modelos de lenguaje, los sistemas de imagen generativa, los modelos multimodales. Todos son, en el fondo, redes neuronales muy grandes, entrenadas con cantidades de datos astronómicas y una potencia de cómputo que consume recursos físicos reales y considerables.

Aquí entra algo que pocas veces aparece en los titulares: el coste ambiental de este aprendizaje. Entrenar un modelo de lenguaje grande puede emitir tanto CO₂ como varios vuelos trasatlánticos. Requiere agua para refrigerar los centros de datos. Requiere energía de forma masiva y continua. Ya hablamos de esto con detalle cuando analizamos cuánta agua y energía consume realmente la IA.

Y luego está la cuestión de los datos. Esas redes aprenden de textos, imágenes y código que en su mayor parte no fue cedido voluntariamente para ese fin. El debate sobre la propiedad de los datos de entrenamiento es uno de los más calientes del sector y todavía no tiene una respuesta legal clara en la mayoría de países.

Tampoco se habla suficiente de los límites reales. Los modelos actuales tienen problemas serios con el razonamiento formal, con la aritmética precisa, con mantener coherencia en textos muy largos, con distinguir lo que saben de lo que inventan. Saben hacer cosas asombrosas y fallan en cosas absurdas. Entender eso requiere dejar de pensar en ellos como cerebros y empezar a pensarlos como lo que son.

¿Y si cambiáramos el lenguaje?

Algunos investigadores llevan años proponiendo exactamente eso. Usar términos como «ajuste estadístico», «optimización de parámetros» o «sistema de reconocimiento de patrones» en lugar de todo el vocabulario cognitivo que hemos importado de la neurociencia. La propuesta no es solo semántica.

Si describiéramos estas herramientas con más precisión, tomaríamos mejores decisiones sobre cuándo usarlas y cuándo no. Las regularíamos de forma más inteligente. Las aplicaríamos donde realmente tienen sentido y seríamos más cautos donde no lo tienen.

El cambio de lenguaje también nos protegería del exceso de confianza. Hoy tendemos a delegar en estos sistemas decisiones para las que no están equipados, en parte porque su nombre nos hace creer que piensan. Y ese exceso de delegación tiene un coste que ya estamos empezando a pagar. Tiene mucho que ver con algo que ya apuntamos aquí: la IA no te quita el trabajo, te quita el criterio, y eso a largo plazo puede ser más peligroso.

Claro que el nuevo vocabulario tiene su propio problema: es mucho menos emocionante. «Sistema de optimización de parámetros sobre datos de entrenamiento masivo» no genera titulares. No atrae inversión. No moviliza imaginarios. La metáfora neuronal es un activo narrativo demasiado valioso para que la industria lo abandone voluntariamente.

¿Tiene importancia cómo llamemos a algo que funciona tan bien?

Esa es quizás la pregunta más honesta que podemos hacernos. Si las redes neuronales siguen produciendo resultados que nos parecen asombrosos, si diagnostican enfermedades antes que los médicos, si generan textos indistinguibles de los humanos, si componen música y crean imágenes, ¿importa tanto que entendamos mal lo que están haciendo por dentro?

La respuesta corta es: sí. Importa cuando tomamos decisiones sobre quién merece un crédito o quién es sospechoso de un delito basándonos en su output. Importa cuando regulamos o no regulamos en función de lo que creemos que pueden hacer. Importa cuando cedemos autonomía a sistemas cuyas limitaciones desconocemos porque los imaginamos más parecidos a nosotros de lo que son.

El lenguaje que elegimos para describir una tecnología no es un adorno: es la estructura con la que construimos nuestra relación con ella. Y setenta años después del primer modelo de McCulloch y Pitts, seguimos usando una metáfora diseñada para hacer comprensible algo que aún no comprendemos del todo.

La pregunta que merece la pena seguir haciéndose no es si las redes neuronales son inteligentes. Es si nosotros lo somos suficiente como para usarlas bien.

Preguntas frecuentes