La IA que gestiona tu dinero toma decisiones que tu no entiendes

Las finanzas automatizadas IA riesgo forman hoy una combinación que muy poca gente entiende del todo, y eso incluye a bastantes de los profesionales que trabajan con ella. Tu banco ya no es solo un edificio con cajeros y un director que te conoce por tu nombre. Es, en buena medida, un sistema de algoritmos que decide si te concede una hipoteca, qué productos de inversión te ofrece, cuándo te bloquea la tarjeta por una transacción sospechosa y cómo gestiona el riesgo de tu cartera. Todo ocurre en milisegundos. Sin que nadie te lo explique. Y, muchas veces, sin que quienes lo han diseñado puedan explicarlo tampoco.

Dinero en piloto automático: cómo ha llegado la IA a las finanzas

La automatización financiera no empezó con ChatGPT ni con el boom de la inteligencia artificial generativa. Lleva décadas construyéndose en silencio. Los primeros sistemas de trading algorítmico aparecieron en los años ochenta. Los modelos de scoring crediticio, esos que deciden si eres o no eres un buen pagador, llevan en funcionamiento desde los noventa. Lo que ha cambiado en los últimos años es la escala, la velocidad y, sobre todo, la opacidad.

Hoy los modelos de machine learning analizan miles de variables para decidir si te prestan dinero: tu historial de pagos, claro, pero también tus patrones de consumo, tu comportamiento en redes sociales en algunos países, o incluso la hora del día en que solicitas el préstamo. El sistema no aplica una fórmula fija: aprende, ajusta y toma decisiones que ningún humano podría replicar a mano.

En los mercados financieros, el fenómeno es todavía más extremo. Se estima que más del 70 % del volumen de negociación en las bolsas estadounidenses lo generan algoritmos. No inversores humanos sentados frente a pantallas, sino máquinas que ejecutan órdenes en fracciones de segundo, identifican patrones y reaccionan a noticias antes de que cualquier persona haya terminado de leerlas. Y esto, que parece una ventaja tecnológica imponente, viene con un problema que muy pocas veces se menciona en los titulares.

El problema del riesgo que nadie calcula del todo

Cuando hablamos de finanzas automatizadas, el concepto de riesgo adquiere una dimensión nueva. No es solo el riesgo de que la inversión salga mal. Es el riesgo de que el sistema tome una decisión incorrecta por razones que nadie es capaz de rastrear. Es el riesgo de que un error se propague a velocidad de máquina antes de que alguien pueda pulsar el botón de parada.

El ejemplo más conocido ocurrió el 6 de mayo de 2010. En cuestión de minutos, el Dow Jones se desplomó casi un 10 % y se recuperó casi por completo antes de que cerrara la sesión. Lo llamaron el Flash Crash. Los investigadores tardaron meses en reconstruir qué había pasado: una cascada de órdenes automatizadas que se retroalimentaron entre sí hasta crear un colapso en tiempo real. Nadie lo ordenó. Nadie lo previó. Simplemente ocurrió porque los sistemas estaban diseñados para reaccionar a lo que hacían otros sistemas.

Desde entonces ha habido otros episodios similares, menos espectaculares pero igualmente reveladores. Y la gran pregunta que sigue sin respuesta clara es: ¿cuánto riesgo sistémico estamos asumiendo al delegar decisiones financieras críticas en modelos que no comprendemos del todo?

Esto conecta directamente con algo que ya hemos explorado aquí: las redes neuronales funcionan de formas que ni sus creadores comprenden del todo, y eso en el campo financiero no es una curiosidad académica, sino un problema con consecuencias económicas reales.

Tu banco sabe más de ti que tú mismo

Más allá de los mercados bursátiles, la IA en finanzas opera a nivel individual de formas que merecen atención. Los modelos de scoring crediticio han evolucionado hasta convertirse en herramientas capaces de predecir comportamientos futuros a partir de datos del presente. Y no siempre con criterios que resulten justos o transparentes.

En Estados Unidos se han documentado casos en los que algoritmos de evaluación crediticia reproducían sesgos raciales o socioeconómicos, no porque alguien los hubiera programado explícitamente para ello, sino porque los datos históricos con los que aprendieron reflejaban esas desigualdades. El algoritmo aprendió la discriminación del pasado y la proyectó hacia el futuro con una apariencia de objetividad matemática que hacía más difícil cuestionarla.

Esto no es una hipótesis conspirativa. Es un problema documentado y debatido en foros regulatorios de todo el mundo. Y encaja perfectamente con lo que ya hemos contado sobre cómo enseñamos a las máquinas nuestros sesgos y estas nos los devuelven amplificados.

Lo que hace especialmente complicado este escenario es la asimetría de información. El banco sabe por qué te ha denegado el préstamo, pero tú tienes muy pocas posibilidades de entender el razonamiento real del modelo. En la Unión Europea, el Reglamento General de Protección de Datos establece el derecho a una explicación cuando una decisión automatizada te afecta significativamente. En la práctica, esas explicaciones suelen ser vagas, genéricas y de escasa utilidad real.

Los robo-advisors: inversión automatizada para todos (¿o para nadie?)

Una de las aplicaciones más visibles de la IA en finanzas personales son los llamados robo-advisors: plataformas que gestionan tu cartera de inversión de forma automatizada, basándose en tu perfil de riesgo y tus objetivos financieros. Empresas como Betterment, Wealthfront o, en España, plataformas como Indexa Capital, han democratizado el acceso a la inversión gestionada. Eso es, en principio, una buena noticia.

Pero conviene hacerse algunas preguntas. ¿Quién define realmente tu perfil de riesgo? ¿Un cuestionario de diez preguntas que rellenas en cinco minutos? ¿Cómo reacciona el algoritmo en un escenario de mercado extremo que nunca ha ocurrido antes y para el que, por tanto, no tiene datos históricos con los que aprender? La automatización no elimina el riesgo: lo redistribuye y lo oculta.

Además, existe una cuestión de homogeneización que no suele discutirse. Si miles de carteras gestionadas por algoritmos similares reaccionan de la misma manera ante la misma señal de mercado, el efecto agregado puede amplificar movimientos que de otro modo habrían sido menores. La diversificación individual no sirve de mucho si todos los algoritmos apuntan en la misma dirección al mismo tiempo.

Quién vigila a los que vigilan el dinero

La regulación financiera lleva años corriendo detrás de la tecnología con evidente dificultad. Los organismos supervisores tienen herramientas diseñadas para fiscalizar a humanos tomando decisiones, no a modelos de machine learning que actualizan sus parámetros continuamente. La velocidad a la que operan los sistemas automatizados hace que muchos mecanismos de supervisión tradicionales sean, sencillamente, obsoletos.

En Europa, el AI Act aprobado en 2024 clasifica los sistemas de IA en función de su nivel de riesgo, y los sistemas de scoring crediticio y evaluación financiera quedan en la categoría de alto riesgo, lo que implica requisitos de transparencia, explicabilidad y supervisión humana. Es un paso relevante. Pero entre la norma y su aplicación efectiva hay una distancia considerable, y los modelos más sofisticados seguirán siendo en gran medida cajas negras durante bastante tiempo.

Todo esto guarda una relación incómoda con algo que ya analizamos en otro contexto: los algoritmos predictivos que toman decisiones sobre personas sin que estas puedan cuestionarlos. El campo cambia, el mecanismo es el mismo.

Mientras tanto, los grandes fondos de inversión y bancos dedican recursos ingentes a desarrollar modelos cada vez más complejos, mientras que los reguladores trabajan con equipos más pequeños, herramientas más limitadas y una comprensión técnica que, en muchos casos, no está a la altura del desafío. No es que nadie quiera supervisar: es que supervisar esto es extraordinariamente difícil.

El factor humano que no desaparece del todo

Sería injusto presentar este panorama como si la automatización financiera fuera un desastre en marcha. Hay ventajas reales y mensurables. La detección de fraude ha mejorado sustancialmente gracias a la IA. Los modelos de riesgo son capaces de identificar patrones que un analista humano tardaría días en detectar. Los costes de gestión han bajado, lo que en teoría beneficia al usuario final.

Pero las ventajas no eliminan las preguntas. ¿Qué pasa con las personas que quedan excluidas por un modelo que no entiende sus circunstancias particulares? ¿Qué ocurre cuando el sistema falla de forma sistémica y no hay ningún humano en la cadena capaz de intervenir a tiempo? ¿Estamos construyendo una infraestructura financiera cuya fragilidad no somos capaces de evaluar del todo?

Vale la pena recordar aquí que la IA no miente cuando se equivoca: simplemente no sabe que lo hace. Y en el mundo financiero, esa diferencia entre error consciente y error estructural tiene consecuencias que van mucho más allá de una respuesta incorrecta en un chat.

La figura del humano en el bucle, ese profesional que supervisa y puede corregir las decisiones del algoritmo, existe en teoría en muchos sistemas. En la práctica, cuando los modelos operan a la velocidad a la que lo hacen, la supervisión humana real es más aspiracional que efectiva. El humano en el bucle puede convertirse en una firma de validación automática, un trámite que legitima sin controlar.

Hay además una cuestión de dependencia a largo plazo que merece atención. Cuanto más delegamos en los sistemas automatizados, menos desarrollamos el criterio propio para evaluarlos. Esto ya lo hemos señalado en otro contexto: la IA no solo transforma qué hacemos, sino cómo pensamos sobre lo que hacemos. En finanzas, perder ese criterio tiene un precio muy concreto.

Los datos que alimentan el sistema: otra capa de opacidad

Los modelos financieros aprenden de datos. Eso significa que su calidad depende de la calidad de esos datos, y que cualquier sesgo, error o laguna en los datos de entrenamiento se traslada directamente a las decisiones del modelo. En finanzas, los datos históricos tienen un problema estructural: reflejan un mundo que ya no existe del todo.

Los modelos entrenados con datos anteriores a 2008 no vieron venir la crisis financiera. Los modelos entrenados antes de 2020 no tenían manera de anticipar el impacto de una pandemia global en los mercados. El pasado no siempre predice el futuro, y los algoritmos financieros tienen una debilidad inherente ante eventos sin precedente: los llamados cisnes negros, esos sucesos improbables pero de consecuencias enormes que, por definición, no aparecen en los datos históricos.

Y luego está la cuestión de qué datos se recopilan y cómo. En algunos mercados, las entidades financieras ya están explorando el uso de datos alternativos: comportamiento en redes sociales, patrones de movilidad, hábitos de consumo. Todo ello para construir perfiles más precisos. Eso nos lleva directamente a un territorio que ya hemos explorado: el capitalismo de vigilancia y su lógica de extraer valor de cada aspecto de la vida cotidiana. En finanzas, esa lógica tiene implicaciones especialmente directas sobre el acceso a recursos básicos.

¿Queremos entender el sistema que gestiona nuestro dinero, o preferimos no saber?

Hay algo profundamente revelador en la manera en que la mayoría de las personas se relaciona con los sistemas financieros automatizados: con una mezcla de confianza delegada y desinterés activo. Mientras el saldo esté bien y la tarjeta funcione, pocas personas quieren saber demasiado sobre el mecanismo que hay detrás. Y eso es comprensible. La complejidad técnica es real y agotadora.

Pero esa comodidad tiene un coste. Delegar sin entender es también renunciar a exigir cuando algo falla. Si no sabemos cómo funciona el modelo que decide si nos conceden un préstamo, tampoco sabemos cómo cuestionarlo cuando la respuesta es injusta. Si no entendemos los riesgos de los sistemas de trading automatizado, no podemos participar de manera informada en el debate sobre cómo regularlos.

La pregunta que queda flotando no es tecnológica. Es política y social. ¿Hasta qué punto estamos dispuestos a ceder el control de decisiones financieras críticas a sistemas que no comprendemos, a cambio de velocidad, conveniencia y costes más bajos? Y cuando ese control se pierda del todo, ¿quién será el responsable de lo que salga mal?

Preguntas frecuentes