El debate sobre la superinteligencia IA lleva años circulando entre académicos, ingenieros y filósofos, pero en los últimos meses ha salido del nicho y se ha instalado en titulares, conferencias y conversaciones de empresa. La pregunta ya no es si una inteligencia artificial puede superar a los humanos en tareas concretas, eso ya ocurre, sino si algún día lo hará en razonamiento general. Y ahí es donde los expertos empiezan a no ponerse de acuerdo.
Lo primero que conviene aclarar es qué significa exactamente “superar a los humanos en razonamiento”. Los modelos de lenguaje actuales, como GPT-4 o Gemini 1.5, resuelven exámenes de medicina, generan código complejo y sintetizan literatura científica con una velocidad que ninguna persona puede igualar. Pero eso no es razonamiento general: es reconocimiento de patrones a una escala enorme. La diferencia importa, y mucho.
¿Qué es la superinteligencia y por qué los expertos no se ponen de acuerdo?
La superinteligencia IA, en su definición más extendida, es la de Nick Bostrom: un sistema que supera al ser humano más capaz en prácticamente todos los dominios cognitivos relevantes. No hablamos de jugar al ajedrez mejor que Magnus Carlsen ni de memorizar más que un campeón de trivia. Hablamos de razonar sobre problemas nuevos, planificar a largo plazo, aprender de forma autónoma y tomar decisiones en contextos que nadie anticipó.
El problema es que esa definición mezcla capacidades que hoy están en lugares muy distintos de desarrollo. Los sistemas actuales son brillantes en dominios estrechos y frágiles fuera de ellos. Un modelo que resuelve problemas matemáticos de olimpiada puede fallar de forma ridícula ante una pregunta de sentido común que un niño de siete años respondería sin pensarlo.
Geoffrey Hinton, uno de los padres de las redes neuronales y Premio Nobel de Física 2024, estima que la superinteligencia podría llegar en menos de 20 años. Sam Altman, CEO de OpenAI, ha sugerido plazos más cortos. Yann LeCun, director de investigación de IA en Meta, cree que los modelos de lenguaje actuales son un callejón sin salida y que el camino hacia una inteligencia general requiere arquitecturas completamente distintas. Tres personas con credenciales impecables, tres posiciones radicalmente diferentes.
Esa falta de consenso no es ruido: es información. Refleja que nadie sabe con certeza qué falta exactamente para dar ese salto, ni si el salto es gradual o discontinuo. El debate sobre cuándo llegará la superinteligencia es, en parte, un debate sobre qué es el razonamiento, y esa pregunta lleva siglos sin respuesta definitiva.
¿Qué dicen los plazos reales que manejan los investigadores?
En 2023, AI Impacts publicó una encuesta entre más de 2.700 investigadores de aprendizaje automático. El resultado fue que la mediana de probabilidad de que se desarrolle una inteligencia artificial de nivel humano antes de 2060 rondaba el 50%. No es una afirmación de que ocurrirá: es que la comunidad investigadora está dividida casi a la mitad entre los que creen que es inminente y los que piensan que falta mucho más de lo que los titulares sugieren.
Esos plazos cambian según cómo se formule la pregunta. Si se pregunta por tareas concretas, los investigadores son más optimistas. Si se pregunta por razonamiento general sin restricciones, el escepticismo aumenta. Y si se pregunta si una IA podría algún día “entender” algo en el sentido que lo hace un humano, la discusión se convierte en filosofía antes de que nadie haya terminado el café.
Hay un elemento que los modelos actuales comparten: el escalado. OpenAI, Google DeepMind y Anthropic han apostado durante años por la hipótesis de que más datos, más parámetros y más potencia de cálculo producen modelos mejores de forma casi automática. Y ha funcionado. Pero varios investigadores, entre ellos François Chollet, creador de Keras, argumentan que el escalado tiene límites y que más allá de cierto punto no produce comprensión, sino simulación más sofisticada de comprensión.
Chollet publicó en 2019 el benchmark ARC (Abstraction and Reasoning Corpus), un conjunto de puzzles visuales diseñados para ser triviales para humanos y difíciles para sistemas de IA. Años después, los modelos más avanzados del mundo seguían sin resolverlos con consistencia. En 2024, OpenAI y otros grupos mejoraron los resultados, pero sin alcanzar el nivel humano. ARC sigue siendo uno de los mejores termómetros de la distancia real entre lo que hacen los modelos actuales y lo que llamamos razonamiento abstracto.
¿Puede un modelo de lenguaje razonar de verdad o solo simula que lo hace?
Esta es la pregunta que más divide a los investigadores, y la respuesta honesta es que no hay consenso. Lo que sí está documentado es que los modelos de lenguaje grande cometen errores sistemáticos en problemas de lógica elemental cuando se presentan de forma ligeramente diferente a los ejemplos de entrenamiento. No es que fallen a veces: es que el patrón de fallos revela que no están razonando de la misma forma que un humano.
Un experimento de 2023 de la Universidad de California en San Diego mostró que GPT-4 fallaba en variantes mínimas de problemas que había resuelto correctamente en su forma estándar. La interpretación más parsimoniosa es que el modelo recupera patrones memorizados, no que construye razonamientos desde principios. Eso no hace al modelo inútil, pero sí establece una distinción importante para el debate de la superinteligencia.
Hay quien argumenta que esa distinción es irrelevante: si el resultado es indistinguible, ¿qué importa el proceso? Es el tipo de argumento que lleva directamente al test de Turing y a sus críticas. John Searle lo formuló hace décadas con el experimento mental de la habitación china: un sistema puede manipular símbolos siguiendo reglas sin entender nada. El debate entre sintaxis y semántica sigue siendo tan relevante como cuando Searle lo planteó en 1980, y los modelos actuales no lo han resuelto.
Lo que sí han hecho es mover el umbral. Hace diez años, nadie esperaba que un sistema de IA escribiera código funcional, tradujera entre decenas de idiomas con matices culturales o mantuviera una conversación coherente durante horas. Que eso ocurra sin razonamiento “real” (si es que ese concepto tiene sentido estricto) dice algo sobre lo que el razonamiento podría ser, no solo sobre lo que las máquinas hacen. Y eso lo complica todo, porque parte del debate sobre la superinteligencia asume que sabemos qué estamos midiendo, y quizá no lo sabemos.
La relación entre inteligencia artificial y toma de decisiones autónoma ya genera consecuencias hoy, antes de que lleguemos a ninguna superinteligencia. Los primeros sistemas que dirigen empresas de forma algorítmica operan con una lógica que sus propios creadores no siempre comprenden del todo, y eso ya plantea preguntas sobre control y responsabilidad que no esperan a 2040.
¿Qué riesgos concretos asocian los expertos a una IA que supere el razonamiento humano?
El riesgo más citado en la literatura especializada no es el de la ciencia ficción: no es Terminator ni HAL 9000. Es algo más sutil: un sistema muy capaz optimizando el objetivo equivocado. Stuart Russell, profesor de Berkeley y uno de los autores del manual de referencia en inteligencia artificial, lleva años argumentando que el problema central es de alineación, es decir, asegurarse de que lo que el sistema maximiza coincide con lo que los humanos queremos de verdad.
El problema de alineación no es teórico: ya tiene manifestaciones en sistemas actuales. Los algoritmos de recomendación de redes sociales maximizan el tiempo de pantalla porque eso les indicaron, y en el proceso amplifican contenido polarizador porque resulta más efectivo para mantener la atención. Nadie programó explícitamente la polarización: emergió como efecto secundario de optimizar una métrica. Escalar esa dinámica a un sistema con capacidades de razonamiento general es lo que preocupa a Yoshua Bengio, otro Nobel de Física 2024, que ha pedido públicamente una pausa en el desarrollo de los sistemas más avanzados.
Anthropic, la empresa fundada por ex empleados de OpenAI, ha centrado gran parte de su investigación en el problema de la alineación bajo el concepto de “IA constitucional”, un enfoque que intenta que los modelos interioricen principios en vez de solo seguir instrucciones. Si el intento es prometedor o insuficiente para los riesgos de una superinteligencia real está por ver. Pero al menos es un reconocimiento explícito de que el problema existe.
El debate sobre los riesgos del razonamiento artificial también se cruza con la geopolítica. Estados Unidos y China compiten abiertamente por el liderazgo en inteligencia artificial, y esa competencia crea incentivos para acelerar sin esperar a tener respuestas sobre seguridad. La dimensión militar de la inteligencia artificial añade una presión que los laboratorios de investigación no controlan y que puede acortar plazos por razones que nada tienen que ver con el avance científico.
En ese contexto, la regulación avanza despacio. El AI Act europeo, aprobado en 2024, establece categorías de riesgo y obligaciones para los sistemas más potentes, pero no aborda directamente el escenario de la superinteligencia. Los parlamentos que ya experimentan con IA para redactar normativa no están, en su mayoría, legislando sobre los riesgos a largo plazo: están gestionando los problemas de hoy.
Una superinteligencia plantearía también cuestiones de responsabilidad que hoy ya son complicadas incluso con sistemas limitados. Si un modelo con capacidad de razonamiento general toma una decisión que causa daño, determinar quién responde, el fabricante, el usuario o el sistema mismo, no tiene respuesta legal clara en ninguna jurisdicción del mundo.
Mientras tanto, los avances en sistemas multimodales que combinan visión, lenguaje y audio están acercando a los modelos a formas de percepción más parecidas a las humanas. Si el razonamiento requiere percepción integrada, como defienden algunos investigadores de cognición encarnada, ese camino puede ser más relevante de lo que parece para el debate sobre superinteligencia.
Lo que sí está claro es que la brecha entre promesas y realidad sigue siendo notable. Lo que la IA promete y lo que realmente entrega divergen en puntos que importan: fiabilidad, razonamiento causal, comprensión del contexto fuera de los datos de entrenamiento. Esa brecha no niega que el progreso sea real, pero complica cualquier predicción de plazos.
La conversación sobre superinteligencia también tiene una dimensión que a veces se ignora: qué significa para nuestra idea de lo que somos. Si una máquina razona mejor que nosotros en todos los dominios relevantes, la pregunta sobre qué nos hace específicamente humanos deja de ser filosófica y se convierte en urgente. La tecnología que ya asiste a la memoria humana apunta hacia una hibridación entre capacidades biológicas y artificiales que quizá haga que la pregunta “¿cuándo nos supera?” esté mal formulada desde el principio.
¿Y si la pregunta que realmente importa no es cuándo, sino si tiene sentido llegar ahí?
El debate sobre la superinteligencia IA tiende a presentarse como inevitable: la pregunta es cuándo, no si. Pero ese marco oculta una elección. El desarrollo de sistemas de razonamiento general requiere decisiones de inversión, regulación y prioridad que las sociedades todavía pueden tomar con cierto margen. Que nadie haya votado explícitamente que queremos llegar a la superinteligencia no significa que el proceso sea automático.
Hay investigadores, como Gary Marcus, que cuestionan no solo los plazos sino la dirección: argumentan que los sistemas actuales están optimizados para impresionar, no para ser fiables, y que acelerar esa trayectoria sin resolver los problemas de base es construir sobre arena. No es una postura marginal. Es una crítica técnica con evidencia publicada detrás.
Lo más honesto que se puede decir sobre el debate de la superinteligencia IA en 2025 es esto: nadie sabe cuándo llegará, si es que llega; los indicadores que tenemos apuntan a que falta más de lo que los anuncios sugieren; y las consecuencias de equivocarse en la gestión del proceso son asimétricas. Equivocarse por exceso de cautela tiene un coste. Equivocarse por exceso de prisa tiene otro, y los expertos más serios del campo creen que el segundo coste podría ser mucho mayor.
Preguntas frecuentes
¿Qué diferencia hay entre inteligencia artificial general y superinteligencia?
La inteligencia artificial general (AGI) se refiere a un sistema capaz de realizar cualquier tarea cognitiva que pueda hacer un humano. La superinteligencia va más allá: sería un sistema que supera al ser humano más capaz en prácticamente todos los dominios. Son dos umbrales distintos, y ni siquiera está claro que el primero se haya alcanzado con los sistemas actuales.
¿Es cierto que Geoffrey Hinton cree que la superinteligencia llegará pronto?
Hinton, Premio Nobel de Física 2024, ha declarado públicamente que la superinteligencia podría desarrollarse en menos de 20 años, aunque ha subrayado que es una estimación personal, no una certeza. También ha expresado preocupación por los riesgos que implicaría. Sus declaraciones representan una posición dentro del debate, no el consenso de la comunidad investigadora.
¿Los modelos de IA actuales razonan de verdad?
Los experimentos publicados hasta 2024 indican que los modelos de lenguaje actuales fallan de forma sistemática en variantes de problemas que resuelven en su forma estándar, lo que sugiere que recuperan patrones en lugar de construir razonamientos desde principios. Eso no los hace inútiles, pero establece una distancia clara respecto al razonamiento abstracto que demuestran los humanos.
¿Debería preocuparme la superinteligencia si todavía no existe?
La preocupación tiene sentido si se entiende como incentivo para regular y orientar el desarrollo ahora, cuando aún hay margen. El problema de alineación, es decir, que un sistema muy capaz optimice el objetivo equivocado, ya tiene manifestaciones menores en sistemas actuales. Esperar a que el problema sea urgente para abordarlo es precisamente lo que varios investigadores consideran el mayor error posible.
¿Qué es el benchmark ARC y por qué es importante en este debate?
ARC (Abstraction and Reasoning Corpus) es un conjunto de puzzles visuales diseñados por François Chollet en 2019 para ser fáciles para humanos y difíciles para sistemas de IA. Mide la capacidad de razonamiento abstracto sobre problemas nuevos, no la memorización de patrones. En 2024, los mejores modelos del mundo mejoraron sus resultados pero no alcanzaron el nivel humano, lo que lo convierte en un indicador relevante de la distancia real que queda.
¿Hay algún país o empresa que esté intentando regular la superinteligencia?
El AI Act europeo, aprobado en 2024, regula sistemas de IA según niveles de riesgo, pero no aborda específicamente el escenario de superinteligencia. En Estados Unidos, la regulación es más fragmentada. Ninguna jurisdicción tiene hoy una normativa diseñada para gestionar un sistema con capacidades de razonamiento general: la legislación va por detrás del debate técnico.
