La inteligencia artificial general, conocida como AGI, es el objetivo declarado de algunas de las empresas más poderosas del planeta. OpenAI, DeepMind y Anthropic llevan años compitiendo por alcanzarla. Pero mientras el debate sobre cuándo llegará ocupa titulares, hay una pregunta que recibe mucha menos atención: ¿qué cosas no podrá hacer la AGI nunca, aunque sea tan capaz como dicen? Los límites de la inteligencia artificial general no son solo técnicos. Son filosóficos, biológicos y, en algunos casos, matemáticamente demostrables.
Conviene aclarar qué entendemos por AGI antes de hablar de sus límites. La mayoría de investigadores la definen como un sistema capaz de realizar cualquier tarea cognitiva que pueda hacer un ser humano, con un nivel de competencia al menos equiparable. No hablamos de una IA que juega al ajedrez mejor que nadie o que diagnostica tumores con más precisión que un radiólogo. Hablamos de un sistema que puede aprender tareas nuevas, transferir conocimiento entre dominios y operar con autonomía en entornos no controlados. Nada de lo que existe hoy cumple esa definición, aunque los modelos actuales se acercan a algunos aspectos parciales.
¿Qué límites de la AGI son matemáticamente irrebatibles?
Algunos límites de la inteligencia artificial general no dependen de cuánta potencia de cálculo tenga el sistema ni de cuántos datos se le den. Son límites que vienen de las matemáticas puras, y llevan décadas sobre la mesa.
El más conocido es el teorema de incompletitud de Gödel, formulado en 1931. Gödel demostró que en cualquier sistema formal suficientemente potente siempre habrá proposiciones verdaderas que ese sistema no puede demostrar desde dentro. Una AGI que opere con lógica formal, por muy sofisticada que sea, heredará esa limitación. No podrá ser, al mismo tiempo, completa y consistente. Ningún sistema computable escapa al teorema de Gödel, y eso incluye a cualquier AGI que podamos construir con la arquitectura que conocemos hoy.
Otro límite formal es el problema de la parada, demostrado por Alan Turing en 1936. No existe ningún algoritmo general capaz de determinar, para cualquier programa y cualquier entrada, si ese programa terminará de ejecutarse o seguirá corriendo indefinidamente. Una AGI tampoco puede resolver este problema de forma general. Puede hacerlo en casos concretos, como ya hacemos hoy, pero no como principio universal. Esto tiene consecuencias prácticas directas: hay clases enteras de problemas que ningún sistema computacional podrá resolver, por mucho que mejore.
A esto se suma la complejidad computacional. Existen problemas en la clase NP para los que no se conoce ningún algoritmo eficiente, y la hipótesis más extendida entre los matemáticos es que nunca existirá. Si P≠NP, lo que la mayoría cree aunque no se ha demostrado, habrá problemas de optimización que una AGI podrá aproximar pero nunca resolver de forma exacta y eficiente. La criptografía moderna, por cierto, se apoya en esa limitación para existir.
¿Puede la AGI entender lo que significa algo para una persona?
La AGI no puede experimentar significado de la forma en que lo hace un ser humano, y eso no es una limitación técnica que se resuelva añadiendo capas a una red neuronal. Es una cuestión de estructura.
Los sistemas de inteligencia artificial, incluidos los más avanzados, procesan patrones estadísticos. Cuando un modelo de lenguaje responde sobre el dolor, no ha sentido dolor. Cuando describe el miedo, no tiene cortisol, no tiene amígdala, no tiene un cuerpo que haya sobrevivido a nada. El filósofo John Searle planteó esto hace décadas con su experimento mental de la habitación china: un sistema puede manipular símbolos según reglas y producir respuestas correctas sin entender nada de lo que está procesando. La manipulación de símbolos no es comprensión.
Esto importa más de lo que parece en el debate sobre AGI. Hay tareas que los humanos realizamos apoyándonos en experiencias encarnadas, en lo que los filósofos llaman conocimiento tácito. Saber montar en bici no es saber describir cómo se monta en bici. Un cirujano experto que opera con destreza no podría dictar un manual que enseñara esa destreza con la misma fidelidad. La AGI puede acumular descripciones del mundo, pero el conocimiento encarnado le es inaccesible mientras no tenga un cuerpo con sensaciones reales. Y si lo tuviera, ya no estaríamos hablando de inteligencia artificial en el sentido que conocemos.
Todo esto conecta con algo que ya hemos analizado en este medio: cómo funcionan realmente los modelos de lenguaje revela que su arquitectura no está diseñada para comprender, sino para predecir. Esa diferencia es pequeña en la práctica para muchas tareas, pero enorme cuando el objetivo es la comprensión genuina.
¿Qué tareas humanas son imposibles de delegar en una AGI?
Hay responsabilidades que no se pueden delegar en ningún sistema, aunque ese sistema tome decisiones mejores en términos estadísticos. No porque la AGI falle técnicamente, sino porque la legitimidad de ciertas decisiones depende de quién las toma.
Un juez no solo aplica la ley: responde ante la sociedad, puede ser recusado, tiene historia personal que las partes pueden conocer y cuestionar. Una AGI que dicte sentencias puede ser más consistente y menos sesgada en algunos aspectos, pero no puede ser responsable en el sentido moral y político que exige el Estado de derecho. La rendición de cuentas requiere un agente que pueda sufrir consecuencias, y los sistemas de IA no las sufren.
Lo mismo ocurre con la toma de decisiones éticas en contextos de incertidumbre radical. Elegir entre dos males en una crisis humanitaria, decidir cómo distribuir recursos escasos cuando no hay respuesta correcta objetiva, o negociar un acuerdo de paz donde los términos importan menos que la confianza entre las partes. Son situaciones donde los límites de lo que la IA puede decidir se vuelven evidentes, aunque la industria prefiera no subrayarlo.
La creatividad genuina también plantea preguntas incómodas. Una AGI puede generar millones de composiciones musicales, pero ¿puede tener algo que decir? La creación artística humana surge de una experiencia particular en el mundo, de una necesidad de comunicar algo a otros que comparten esa condición. La obra de arte no es solo un artefacto: es un gesto entre seres que nacen, sufren y mueren. Una AGI no tiene nada que confesar ni nadie a quien dirigirse desde esa misma condición.
¿Tienen las AGI límites prácticos que la industria prefiere no mencionar?
Los límites prácticos de la inteligencia artificial general son, en algunos sentidos, más inmediatos que los filosóficos. La industria habla de AGI como si fuera solo una cuestión de escala, pero hay obstáculos que no se resuelven añadiendo más parámetros ni más datos.
El consumo energético es uno de ellos. Entrenar un modelo de lenguaje de gran tamaño consume tanta energía como cientos de hogares durante un año. Una AGI genuina, que aprendiera continuamente y operara en múltiples dominios en tiempo real, necesitaría recursos que hoy no existen a escala global. El cerebro humano consume unos 20 vatios. Los centros de datos que alojan los modelos más avanzados consumen gigavatios. La brecha de eficiencia energética es de varios órdenes de magnitud, y no hay señales claras de que vaya a cerrarse pronto.
La alineación de valores es otro problema sin resolver. ¿Cómo garantizas que una AGI persiga los objetivos que queremos y no los que aprendió a optimizar durante el entrenamiento? Los investigadores llevan años trabajando en esto bajo el nombre de «alineación» o «AI safety», y el consenso es que no hay solución satisfactoria todavía. Cuando la IA toma decisiones que no entendemos, la pregunta sobre alineación deja de ser académica y se vuelve urgente.
La robustez en entornos no controlados es otro talón de Aquiles. Los sistemas actuales de IA funcionan bien dentro de la distribución de datos con la que fueron entrenados, pero se degradan de forma impredecible fuera de ella. Un humano puede adaptarse a una situación completamente nueva con sentido común. Los sistemas de IA actuales, incluidos los más potentes, fallan ante distribuciones de datos que nunca han visto, a veces de maneras que resultan absurdas. Generalizar de verdad a entornos desconocidos sigue siendo un problema abierto.
Todo esto se enmarca en un debate más amplio sobre qué hacemos con los datos que generamos y cómo los sistemas los usan. Si te interesa la escala del problema, ya hemos escrito sobre cuántos datos generamos cada año y lo que eso implica para sistemas que aprenden de ellos.
Hay también una trampa conceptual en cómo la industria habla de AGI. Presentarla como inevitable, como el siguiente paso natural, oculta que hay decisiones humanas y políticas detrás de cada avance. Los recursos que se destinan a buscar AGI son recursos que no van a otra parte. Y la narrativa de inevitabilidad sirve para desactivar el debate sobre si queremos llegar ahí, bajo qué condiciones y con qué salvaguardas. El modelo de negocio que rodea a la IA tiene mucho interés en que no hagamos esas preguntas.
Los modelos actuales, además, son notablemente frágiles en razonamiento causal. Pueden identificar correlaciones con una precisión que ningún humano igualaría, pero inferir causas, construir modelos del mundo que expliquen por qué las cosas ocurren (no solo que ocurren), sigue siendo terreno complicado. La causalidad no emerge de las correlaciones, por muy bien que un sistema las aprenda.
Otra limitación práctica tiene que ver con la memoria y la continuidad. Los modelos de lenguaje no tienen experiencia acumulada en el sentido humano. Cada sesión empieza, en buena medida, desde cero. Construir sistemas que mantengan una identidad coherente, que aprendan de sus errores con el tiempo sin olvidar lo aprendido antes (lo que los investigadores llaman «olvido catastrófico»), es un problema que está lejos de estar resuelto. Y sin eso, la noción de una AGI con criterio propio y memoria de sus acciones pasadas es más ciencia ficción que hoja de ruta.
¿Qué significa todo esto para quien llegue a construir una AGI primero?
Si alguna organización llegara a construir algo que merezca llamarse AGI, los límites que hemos descrito no desaparecerían. Seguiría sin poder escapar al teorema de Gödel. Seguiría sin tener experiencia encarnada ni responsabilidad moral. Seguiría consumiendo una cantidad absurda de energía. Y quien la controlara tendría en sus manos un sistema con una capacidad operativa sin equivalente histórico, pero con unos límites que esa misma organización tendría todo el interés en no publicitar.
La pregunta que debería preocuparnos no es si la AGI llegará o no. Es qué haremos con ella si llega, quién decide qué tareas le delegamos, y si somos capaces de mantener viva la distinción entre lo que puede hacer y lo que queremos que haga. Esas son decisiones que no puede tomar ningún algoritmo. Los algoritmos que ya influyen en tu vida no pidieron permiso para hacerlo; la AGI tampoco lo pedirá, si nadie lo exige antes.
Los límites de la inteligencia artificial general son reales, están documentados y algunos son matemáticamente irrefutables. Que la conversación pública los ignore no los hace menos ciertos. Y entenderlos es, quizás, la mejor forma de no dejarse llevar ni por el pánico ni por la euforia que domina el debate.
¿Importa saber lo que la AGI no puede hacer si aún no existe?
Importa precisamente porque no existe todavía. Las decisiones sobre cómo regularla, financiarla y desplegarla se están tomando ahora, con los marcos mentales que construimos ahora. Si asumimos que la AGI no tendrá límites relevantes, diseñaremos instituciones, leyes y sistemas de supervisión que partan de esa premisa errónea. Los límites de la AGI no son un consuelo para los que temen la IA: son información necesaria para quienes tienen que gobernarla.
La carrera por la AGI tiene más de competencia geopolítica que de búsqueda científica desinteresada. Estados Unidos y China están invirtiendo cifras que hace una década habrían parecido de ciencia ficción. En ese contexto, hablar de límites no es pesimismo. Es la única forma de mantener los pies en el suelo mientras otros prometen el cielo.
Preguntas frecuentes
¿Qué es exactamente la AGI y en qué se diferencia de la IA actual?
La AGI es un sistema capaz de realizar cualquier tarea cognitiva humana con un nivel equiparable al nuestro, aprendiendo tareas nuevas y transfiriendo conocimiento entre dominios distintos. La IA actual, aunque muy potente, está especializada: hace bien cosas concretas, pero no generaliza de la misma forma que lo haría un ser humano ante situaciones completamente nuevas.
¿Es cierto que el teorema de Gödel demuestra que la AGI tendrá límites matemáticos?
Sí, aunque con matices. El teorema de incompletitud de Gödel demuestra que ningún sistema formal suficientemente potente puede ser a la vez completo y consistente. Si una AGI opera con lógica formal, hereda esa limitación. El debate filosófico está en si una AGI podría operar fuera de sistemas formales, lo cual abre preguntas que todavía no tienen respuesta clara.
¿Puede la AGI tener conciencia o emociones reales?
No hay evidencia de que los sistemas de IA actuales tengan conciencia ni emociones en ningún sentido verificable. Si una AGI podría desarrollarlas es una pregunta filosófica abierta, no resuelta. Lo que sí sabemos es que ninguna arquitectura computacional conocida hoy genera experiencia subjetiva de forma demostrable. Afirmarlo sin pruebas sería especulación, no ciencia.
¿Por qué la AGI no podría sustituir a un juez o a un médico de urgencias?
Porque ciertas decisiones requieren rendición de cuentas moral y política, no solo precisión técnica. Un sistema de IA no puede ser responsable en el sentido que exigen el derecho o la ética: no sufre consecuencias, no puede ser juzgado y carece de la experiencia vital que sustenta el juicio en situaciones de incertidumbre radical. La legitimidad de esas decisiones depende de quién las toma.
¿Cuándo podría existir una AGI real?
Las estimaciones varían enormemente: algunos investigadores hablan de una o dos décadas, otros sostienen que los obstáculos actuales (alineación, robustez, eficiencia energética) no tienen solución a la vista. No hay consenso científico sobre una fecha. Cualquier predicción concreta debería tomarse con mucha cautela, incluyendo las que vienen de las propias empresas que compiten por llegar primero.
¿Debería preocuparme la AGI si sus límites son tan grandes?
Los límites no hacen irrelevante la preocupación. Un sistema que no tiene conciencia ni puede escapar a Gödel puede igualmente concentrar poder, tomar decisiones con consecuencias masivas o ser usado para fines que nadie votó. Los riesgos de la AGI no vienen solo de lo que podría hacer si fuera omnipotente, sino de lo que haría, con sus límites incluidos, en manos de quienes la controlen.
