Hay un robo que ha sucedido delante de todos y del que casi nadie habla en voz alta. No fue un hackeo nocturno ni una filtración secreta. Fue, en muchos sentidos, a plena luz del día: las grandes empresas de inteligencia artificial han construido sus modelos usando cantidades astronómicas de texto, imágenes, música y código producidos por millones de personas que nunca dieron su consentimiento. Los datos de entrenamiento de IA y los derechos de quienes los crearon se han convertido en uno de los debates más urgentes y más incómodos de la tecnología actual.
¿De dónde salen los datos con los que aprende una IA?
Para entender el problema hay que entender primero cómo funciona el entrenamiento de un modelo de lenguaje o de imagen. Una IA no nace sabiendo. Aprende leyendo, mirando y procesando cantidades de información que escapan a cualquier intuición humana. GPT-4, por ejemplo, se entrenó con cientos de miles de millones de palabras. Midjourney, Stable Diffusion y compañía procesaron miles de millones de imágenes.
¿Y de dónde viene todo ese material? De internet, principalmente. Libros digitalizados. Artículos periodísticos. Foros. Redes sociales. Repositorios de código abierto. Bases de datos de imágenes. Todo lo que la humanidad ha ido volcando en la red durante décadas fue aspirado, procesado y convertido en los pesos matemáticos que dan vida a estos sistemas.
El problema es que buena parte de ese contenido tiene dueño. Tiene autor, tiene copyright, tiene una persona detrás que lo creó con tiempo, esfuerzo y, en muchos casos, con intención de ganarse la vida con ello.
El problema legal: ¿aprender es copiar?
Aquí es donde el debate se complica de verdad. Las empresas de IA argumentan que entrenar un modelo no es lo mismo que copiar un libro. Dicen que es más parecido a lo que hace un humano cuando lee miles de textos y aprende a escribir de cierta manera: nadie denuncia a un novelista por haber leído a Galdós.
Pero los críticos señalan que esa analogía tiene trampas. Un humano que lee un libro no retiene el libro entero en memoria con precisión quirúrgica. Un modelo de lenguaje, bajo ciertas condiciones, puede reproducir fragmentos prácticamente exactos del texto con el que fue entrenado. Eso ya no suena tanto a inspiración y mucho más a copia.
Los tribunales empiezan a ponerse al día. En Estados Unidos, el New York Times demandó a OpenAI en diciembre de 2023 por haber usado millones de sus artículos sin permiso. Getty Images hizo lo propio contra Stability AI por el uso de sus fotografías. En Europa, el debate sobre qué regula exactamente la IA Act en materia de datos sigue abierto y, según muchos expertos, con lagunas importantes.
La pregunta legal de fondo es tan simple como resbaladiza: ¿puede una empresa enriquecerse con el trabajo de millones de personas sin compensarlas, siempre que el producto final sea «diferente» al material original?
Los creadores: los más afectados y los más ignorados
Escritores, ilustradores, músicos, fotógrafos, programadores. La lista de colectivos que se sienten perjudicados es larga. Y sus quejas no son solo filosóficas: son económicas y muy concretas.
Una ilustradora que ha pasado años construyendo un estilo propio descubre que puede replicarse su trabajo con un simple prompt. Un periodista que ha cubierto eventos durante décadas ve cómo sus crónicas sirvieron para alimentar un sistema que ahora compite con él. Un músico independiente encuentra que sus composiciones formaron parte de un dataset que entrena generadores de música comercial.
Todo esto encaja con algo que ya rozamos cuando hablamos de cómo la música generada por IA está transformando la industria: la tecnología avanza, pero las reglas del juego para los creadores no se han actualizado al mismo ritmo.
Lo que más duele a muchos autores no es solo el uso de su trabajo. Es que ese uso ha servido para construir herramientas que pueden reemplazarlos. Entrenaron al sistema que compite con ellos sin saberlo, sin cobrar y sin tener voz en la decisión.
¿Qué dice la industria?
Las grandes empresas de IA no son exactamente mudas sobre el tema. Sus argumentos oscilan entre lo legal, lo técnico y lo filosófico.
El argumento legal más común es el de fair use, una doctrina del derecho anglosajón que permite usar obras protegidas en ciertos contextos sin permiso del autor. Según esta interpretación, el entrenamiento de modelos sería un uso transformador, similar al que hacen los motores de búsqueda al indexar páginas web.
El argumento técnico dice que los modelos no almacenan datos, sino patrones. Que lo que queda tras el entrenamiento no es el libro de un autor, sino una representación estadística del lenguaje humano en general. Por tanto, no habría infracción porque no hay copia.
El argumento filosófico, quizás el más interesante y el más peligroso a la vez, dice que la IA es para la humanidad lo que fue la imprenta: una tecnología disruptiva que, a corto plazo, causa daños a ciertos colectivos, pero que a largo plazo eleva la capacidad creativa y productiva de todos.
Cada uno de estos argumentos tiene defensores serios. Y cada uno tiene también críticas de peso. La verdad, como casi siempre en tecnología, no cabe en un eslogan.
Los datasets más polémicos
No todos los datos son iguales. Algunos de los conjuntos de entrenamiento más utilizados han generado escándalos específicos que merece la pena conocer.
- Common Crawl: un rastreo masivo de internet que incluye millones de páginas web, muchas de ellas con contenido protegido por derechos de autor. Es la base de entrenamiento de muchos modelos.
- Books1 y Books2: datasets de OpenAI que, según investigaciones independientes, incluirían libros completos obtenidos de fuentes de dudosa legalidad, como bibliotecas de descargas piratas.
- LAION-5B: una base de datos con 5.800 millones de pares imagen-texto usada por modelos como Stable Diffusion. Incluye obras de artistas que nunca consintieron su uso y, según se descubrió más tarde, también imágenes de menores de fuentes no verificadas.
- GitHub Copilot: el asistente de código de Microsoft fue entrenado con repositorios de GitHub, incluidos proyectos con licencias que prohíben expresamente el uso comercial sin atribución.
Este tipo de decisiones no son accidentes. Son elecciones. Alguien decidió usar esos datos sabiendo que su origen era, como mínimo, cuestionable. Y lo hizo porque el coste de no hacerlo —quedarse atrás en la carrera de la IA— parecía mayor que el riesgo legal o ético.
No es una novedad que las grandes plataformas tecnológicas operen en zonas grises. Ya lo vimos cuando empezamos a preguntarnos qué tipo de sesgos heredan los modelos de los datos con los que aprenden: los problemas de origen no desaparecen, se amplifican.
El consentimiento que nadie pidió
Más allá del copyright, hay otra dimensión del problema que afecta a personas que ni siquiera se consideran «creadores»: cualquiera que haya escrito algo en internet.
Tus comentarios en foros. Tus reseñas en Amazon. Tus publicaciones en redes sociales. Tus conversaciones en grupos públicos. Todo eso forma parte de lo que los investigadores llaman «datos de comportamiento humano», y es extraordinariamente valioso para entrenar modelos que imiten el lenguaje natural.
Nadie te preguntó. Nadie te avisó. Y en la mayoría de los casos, los términos y condiciones que aceptaste —esos que nadie lee— incluían cláusulas lo suficientemente ambiguas como para que la empresa pudiera argumentar que sí tenía permiso.
El consentimiento por defecto se ha convertido en la norma. Si no dijiste que no, se asume que dijiste que sí. Y resulta que para decir que no a algo, primero necesitas saber que ese algo existe.
Esto conecta directamente con preguntas que también surgen cuando hablamos de cómo los deepfakes usan tu imagen sin que lo sepas: el problema no es solo tecnológico, es que el marco legal y ético va muy por detrás de lo que la tecnología ya es capaz de hacer.
¿Existe alguna alternativa?
Sí, aunque por ahora son minoritarias o están en fase experimental.
Algunas empresas han empezado a firmar acuerdos de licencia con medios de comunicación y editoriales. OpenAI ha llegado a acuerdos con Le Monde, Financial Times y otros. Son pasos en la dirección correcta, aunque muchos críticos señalan que estas compensaciones son ridículas comparadas con el valor generado.
Existe también el modelo de opt-out: dar a los autores la posibilidad de excluir su trabajo de los datasets. Varias iniciativas van en esa línea. El problema es que opt-out invierte la lógica del consentimiento: en lugar de pedir permiso antes de usar, uses primero y luego ofreces la salida. Para quien no lo sabe, no hay salida posible.
Otras propuestas más ambiciosas hablan de sistemas de compensación colectiva, similares a los que ya existen en la música para los derechos de reproducción. Que haya un fondo al que las empresas de IA contribuyan y del que los creadores puedan beneficiarse de forma proporcional. Suena razonable sobre el papel. En la práctica, la complejidad de medir qué influyó en qué hace que sea enormemente difícil de implementar.
Mientras tanto, el debate sobre si la IA puede crear algo genuinamente propio sigue sin respuesta clara, y eso complica aún más determinar cuánto de lo que genera depende realmente del trabajo humano que la alimentó.
Lo que sí sabemos y lo que todavía es especulación
En este debate conviene ser cuidadosos y no mezclar lo documentado con lo hipotético.
Lo que está confirmado: las grandes empresas de IA han utilizado datos protegidos por derechos de autor sin pedir permiso explícito a sus autores. Hay demandas judiciales en curso en varios países. Los datasets más importantes incluyen material de origen cuestionable. Y los mecanismos de protección actuales son insuficientes para el alcance del problema.
Lo que es una hipótesis razonable pero no está probado: que estas prácticas sean ilegales en todos los contextos jurídicos. Los tribunales aún no han establecido una doctrina clara, y es posible que en algunas jurisdicciones el uso para entrenar modelos sea considerado legítimo bajo ciertos supuestos.
Lo que es directamente especulativo: que haya una intención deliberada de explotar a los creadores como estrategia corporativa consciente. Es posible. También es posible que muchas de estas decisiones fueran tomadas por ingenieros centrados en el problema técnico, sin pensar demasiado en las implicaciones. La maldad y la negligencia producen resultados parecidos, pero no son lo mismo.
El impacto es real independientemente de la intención. Y eso es lo que importa cuando hablamos de regular.
De hecho, el coste que todo esto tiene, no solo en términos legales sino también en recursos físicos, es mayor de lo que parece. El entrenamiento de modelos masivos tiene un precio ambiental enorme que tampoco pagó quien produjo los datos originales.
La regulación llega tarde, como siempre
La historia de la tecnología y la regulación es siempre la misma: primero se despliega la tecnología, luego se recogen los daños, y mucho después llegan las leyes.
Con internet pasó. Con las redes sociales pasó. Con los algoritmos de recomendación está pasando todavía. Y con la IA generativa, a juzgar por la velocidad a la que avanza el sector, va a pasar con más intensidad que nunca.
La Unión Europea, con su IA Act, ha dado algunos pasos. Obliga a los proveedores de modelos de propósito general a publicar resúmenes de los datos usados en el entrenamiento. Pero «resumen» no es lo mismo que «lista completa y verificable», y los mecanismos de control son aún vagos.
En Estados Unidos, el marco legal del fair use seguirá siendo el campo de batalla principal durante años. Los jueces tendrán que decidir algo para lo que no hay precedente claro, y sus decisiones moldearán el futuro del sector de formas que hoy son difíciles de predecir.
Lo que está claro es que esperar a que la regulación resuelva el problema sola sería ingenuo. La velocidad a la que se crean y entrenan nuevos modelos hace que cualquier ley aprobada hoy pueda quedarse obsoleta antes de aplicarse. Se necesita también una respuesta del sector, una respuesta de los usuarios y, sobre todo, una conversación pública honesta sobre qué tipo de IA queremos construir.
Porque la IA que tenemos hoy no es inevitable. Es el resultado de decisiones concretas tomadas por personas concretas. Lo que ocurrirá cuando los modelos se queden sin datos nuevos con los que crecer es una pregunta que ya empieza a inquietar a los propios investigadores del sector.
Y si esas decisiones se tomaron sin contar con los creadores, sin su consentimiento y sin compensarles, lo mínimo que podemos hacer es reconocerlo. Llamar al robo por su nombre no resuelve nada por sí solo, pero es el primer paso para empezar a hablar en serio.
¿Quién paga el precio de construir la IA del futuro?
Al final, la pregunta más incómoda no es técnica ni jurídica. Es política y moral. Las herramientas de IA generativa que hoy usan millones de personas fueron posibles gracias al trabajo acumulado de escritores, artistas, periodistas, programadores y ciudadanos anónimos que simplemente participaron en internet. Ese trabajo tiene valor. Ese valor fue aprovechado. Y quienes más se benefician de él son, en su mayor parte, compañías con valoraciones de miles de millones de dólares.
No es un argumento contra la IA. Es un argumento a favor de hacerla bien. De construir un ecosistema donde la innovación no se financie con el trabajo no remunerado de los mismos a quienes luego va a competir. ¿Es eso posible? ¿O ya es demasiado tarde para cambiar las reglas de un juego que lleva años en marcha? Esa es la pregunta que debería estar en el centro del debate. Y todavía no tiene respuesta.
Preguntas frecuentes
¿Es ilegal que las empresas de IA usen mis textos o imágenes para entrenar sus modelos?
Depende de la jurisdicción y del uso concreto, pero en términos generales no está resuelto legalmente. Hay demandas activas en curso en varios países, pero ningún tribunal ha establecido aún una doctrina definitiva. En muchos casos, los términos y condiciones de las plataformas donde publicaste el contenido incluían cláusulas que permitían usos amplios de tus datos.
¿Puedo pedir que mi contenido no se use para entrenar IAs?
Algunos proveedores ofrecen mecanismos de opt-out, como formularios o metaetiquetas en páginas web. Sin embargo, estos sistemas son voluntarios y llegan después de que el entrenamiento ya se ha producido. Para contenido publicado antes de que estas opciones existieran, las posibilidades de exclusión retroactiva son prácticamente nulas.
¿Reciben compensación los creadores cuyos trabajos entrenaron los modelos de IA?
En la inmensa mayoría de los casos, no. Algunas empresas han firmado acuerdos de licencia con medios de comunicación concretos, pero son la excepción. La mayor parte de los creadores cuyo trabajo formó parte de los datasets de entrenamiento no ha recibido ni un aviso, ni una compensación, ni una explicación.
¿Qué es el fair use y por qué las empresas de IA lo usan como argumento?
El fair use es una doctrina del derecho estadounidense que permite usar obras protegidas sin permiso en ciertos contextos considerados transformadores o de interés público. Las empresas de IA argumentan que entrenar un modelo es un uso transformador, similar al que hace un motor de búsqueda al indexar páginas. Los tribunales aún no han validado ni rechazado plenamente ese argumento aplicado a la IA.
¿Qué diferencia hay entre un humano que aprende leyendo y una IA que aprende de los mismos textos?
Es una distinción genuinamente compleja. Un humano no retiene los textos que lee de forma literal ni puede reproducirlos exactamente. Un modelo de IA, bajo ciertas condiciones, puede reproducir fragmentos casi idénticos del material de entrenamiento. Además, un humano no escala su aprendizaje a miles de millones de obras simultáneamente ni genera un producto comercial directamente a partir de ese proceso.
