Hay un momento concreto en el que la tecnología deja de ser una herramienta y se convierte en una pregunta filosófica. Con los deepfakes y la desinformación ya estamos ahí. No es ciencia ficción ni una amenaza lejana: es un problema que afecta a elecciones, relaciones personales, reputaciones y a algo tan fundamental como la capacidad humana de distinguir lo real de lo falso.
¿Qué es exactamente un deepfake?
El término viene de la combinación de deep learning (aprendizaje profundo) y fake (falso). En la práctica, es un contenido audiovisual generado o manipulado por inteligencia artificial para hacer creer que una persona dijo o hizo algo que nunca ocurrió.
La tecnología detrás no es nueva, pero sí lo es su accesibilidad. Hace cinco años, crear un deepfake convincente requería equipos especializados, horas de computación y ciertos conocimientos técnicos. Hoy, hay aplicaciones gratuitas que lo hacen en minutos, con un teléfono móvil y una foto.
Los primeros deepfakes que llamaron la atención pública eran vídeos de famosos con caras intercambiadas, muchos de ellos de contenido sexual y sin consentimiento. Repugnante, sí. Pero lo que vino después fue peor: políticos diciendo cosas que nunca dijeron, líderes mundiales «declarando» guerras, directores ejecutivos «autorizando» transferencias millonarias.
Deepfakes y desinformación: una combinación peligrosa
El problema no es solo técnico. Es psicológico y social. Durante siglos, hemos confiado en los sentidos como árbitros de la realidad. «Ver para creer» no era solo un dicho: era una epistemología. Los deepfakes rompen ese contrato.
Cuando un vídeo viral muestra a un candidato político confesando un crimen, aunque sea falso, el daño ya está hecho. La desmentida llega tarde, viaja menos y convence a quienes ya dudaban. La mentira viaja más rápido que la verdad, y en el ecosistema de redes sociales, eso es una ventaja estructural para quien quiera manipular.
En 2024 se registraron deepfakes electorales en varios países, incluyendo vídeos falsos de candidatos en Eslovaquia, Bangladesh e India. En algunos casos, la IA imitó con precisión la voz y los gestos de personas reales para difundir mensajes que nunca pronunciaron. Y esto es solo el comienzo: con cada ciclo electoral, la tecnología es más barata, más accesible y más convincente.
No es descabellado conectar esto con lo que ya exploramos cuando analizamos si la inteligencia artificial nos lleva a una distopía. Porque la pregunta ya no es teórica.
No solo política: el deepfake como arma personal
Aunque los casos con mayor impacto mediático suelen ser políticos, la mayoría de las víctimas de deepfakes son personas anónimas. Mujeres, sobre todo. Según un informe de la empresa de ciberseguridad Sensity AI, más del 90% de los deepfakes que circulan en internet son de contenido sexual no consentido, y la inmensa mayoría de las víctimas son mujeres.
Pero el fenómeno también alcanza otras formas de daño. Hay casos documentados de deepfakes usados para el acoso escolar, la extorsión, la venganza entre exparejas o para dañar la reputación profesional de alguien. Cualquier persona con suficientes fotos en internet es potencialmente vulnerable.
Y aquí surge una pregunta incómoda: ¿cuántas fotos tuyas hay en internet? ¿Cuántas ha etiquetado tu familia en Facebook? ¿Cuántos vídeos tuyos existen en redes sociales? La materia prima para fabricar un deepfake convincente ya está ahí, pública, accesible y esperando.
¿Se puede detectar un deepfake?
Esta es la pregunta del millón. Y la respuesta honesta es: cada vez menos.
Hace unos años, los deepfakes tenían fallos evidentes: parpadeos extraños, bordes borrosos alrededor del pelo, iluminación inconsistente. Los detectores automáticos aprendieron a identificar esos patrones. Y entonces los generadores mejoraron para eliminarlos. Es una carrera armamentística entre creadores y detectores en la que los primeros suelen llevar ventaja.
Las grandes tecnológicas han invertido en herramientas de detección. Microsoft, Google y Meta tienen programas dedicados a ello. La Universidad de California en Berkeley y el MIT han publicado investigaciones prometedoras. Pero ninguna solución es infalible, y muchas funcionan bien en condiciones de laboratorio y peor en el caos real de internet.
Además, hay un problema estructural: la detección requiere acceso al contenido original en alta calidad. Cuando un vídeo ha sido comprimido, resubido y vuelto a comprimir diez veces, como suele pasar con el contenido viral, los detectores tienen muchas más dificultades.
Esto conecta directamente con algo que ya señalamos al hablar de los límites del aprendizaje automático: los modelos son tan buenos como los datos con los que se entrenan, y el mundo real siempre encuentra la manera de sorprenderlos.
La zona gris: teorías, especulaciones y preguntas sin respuesta
Aquí toca ser honestos sobre lo que sabemos y lo que no.
Hay quienes especulan con escenarios extremos: un deepfake lo suficientemente convincente podría desencadenar una crisis diplomática, provocar una reacción bursátil o incluso iniciar un conflicto armado. ¿Es posible? En teoría, sí. ¿Ha ocurrido? No hay evidencia documentada de que un deepfake haya causado directamente una guerra o un colapso financiero. Pero que no haya ocurrido aún no significa que sea imposible.
También circula la idea, más especulativa, de que algunos gobiernos ya utilizan deepfakes como herramienta de operaciones de influencia encubiertas. Los servicios de inteligencia de varios países han sido acusados de campañas de desinformación con contenido manipulado, aunque demostrar el uso específico de deepfakes en operaciones estatales es extremadamente difícil. Lo que sí es documentado es que países como Rusia, China o Irán han invertido en capacidades de guerra de información, y que el deepfake encaja perfectamente en esa caja de herramientas.
Lo que no es especulación es esto: el Foro Económico Mundial identificó la desinformación potenciada por IA como uno de los mayores riesgos globales de 2024. Tampoco es especulación que las plataformas tecnológicas han tardado años en tomar medidas, y que cuando lo hicieron fue bajo presión regulatoria y mediática, no por iniciativa propia.
¿Qué están haciendo los legisladores?
La respuesta regulatoria va con retraso, como casi siempre ocurre con la tecnología. Pero algo se está moviendo.
En la Unión Europea, el Reglamento de Inteligencia Artificial (AI Act) obliga a etiquetar el contenido generado por IA. En Estados Unidos, varios estados han aprobado leyes específicas contra los deepfakes sexuales no consentidos. China exige que el contenido generado por IA sea marcado como tal desde 2023.
Pero hay problemas evidentes. Primero, la jurisdicción: si el deepfake se genera en un país, se aloja en otro y se difunde en un tercero, ¿qué ley aplica? Segundo, la velocidad: cuando la regulación llega, la tecnología ya ha dado dos saltos más. Tercero, y quizás el más grave, la aplicación real de estas normas es enormemente compleja en un internet descentralizado y anónimo.
La tecnología de generación de vídeo hiperrealista avanza a una velocidad que los marcos legales simplemente no pueden seguir. Y eso deja un vacío que alguien siempre aprovecha.
El papel de las plataformas y de cada uno de nosotros
Las redes sociales son el ecosistema donde los deepfakes proliferan. YouTube, TikTok, Instagram, X (antes Twitter) han implementado políticas contra este tipo de contenido, pero la moderación a escala es un problema sin solución perfecta. Se eliminan millones de vídeos al día, pero muchos más pasan el filtro.
Y luego está el factor humano. Nosotros. Somos más propensos a compartir contenido que confirma lo que ya creemos. Un deepfake de un político que odiamos nos resulta creíble porque queremos que sea verdad. Eso no es debilidad individual: es un sesgo cognitivo documentado que afecta a todo el mundo, incluyendo a periodistas y académicos.
Hay cosas concretas que podemos hacer. Antes de compartir un vídeo que parece demasiado escandaloso para ser verdad, vale la pena buscar si medios de referencia lo han verificado. Herramientas como InVID, FotoForensics o el buscador inverso de imágenes de Google pueden ayudar. Y aplicar una regla básica: cuanto más quieras que algo sea verdad, más debes desconfiar de él.
Esta responsabilidad individual conecta con un debate más amplio que ya hemos tratado al explorar si la IA es una ayuda o un obstáculo para la humanidad. La tecnología no es neutra: amplifica tanto lo mejor como lo peor de nosotros.
Watermarks, blockchain y otras soluciones tecnológicas
La industria también busca soluciones desde dentro. Una de las más prometedoras es la autenticación de contenido mediante metadatos verificables. La iniciativa C2PA (Coalition for Content Provenance and Authenticity), impulsada por Adobe, Microsoft y otros, propone un sistema de «firma digital» para el contenido: cada imagen o vídeo llevaría incrustada información sobre su origen y cualquier modificación posterior.
Otras propuestas incluyen el uso de blockchain para crear registros inmutables de contenido original, o los llamados watermarks imperceptibles: marcas digitales invisibles al ojo humano que los detectores pueden identificar.
Son soluciones interesantes, pero tienen límites. Solo funcionan si todo el ecosistema las adopta, y eso incluye a plataformas, creadores, medios y usuarios. Un vídeo con watermark que se descarga, edita y sube de nuevo sin él pierde toda esa trazabilidad. La cadena de confianza es tan fuerte como su eslabón más débil.
Lo que sí parece claro es que no habrá una solución única y definitiva. Como ocurre con los virus informáticos o el spam, la respuesta será un sistema permanente de adaptación, no una vacuna que resuelva el problema de una vez.
De hecho, este tipo de dinámicas son las que hacen que debates como el del avance hacia la superinteligencia artificial sean tan relevantes: porque si los sistemas de IA se vuelven exponencialmente más capaces, la escala del problema de los deepfakes puede cambiar de una manera que hoy apenas podemos imaginar.
¿Estamos preparados para vivir sin certeza visual?
Esa es la pregunta que nadie quiere hacerse de verdad. Porque implica aceptar que la realidad visual ya no es un punto de partida fiable, sino una hipótesis que hay que verificar cada vez.
Algunos investigadores hablan de un cambio de paradigma epistemológico: igual que aprendimos a desconfiar de los titulares sensacionalistas o de las citas sacadas de contexto, tendremos que aprender a desconfiar por defecto del contenido audiovisual. No porque todo sea falso, sino porque ya no podemos asumir que es verdadero solo porque lo vemos.
Eso tiene consecuencias profundas. Para el periodismo, que durante décadas ha confiado en el vídeo como prueba. Para la justicia, donde las grabaciones son evidencia. Para la política, donde la imagen lo es todo. Y para las relaciones humanas, donde la confianza se construye, en parte, sobre experiencias compartidas y verificables.
La tecnología que genera los deepfakes avanza más rápido que nuestra capacidad colectiva de adaptarnos a ellos. Y mientras tanto, la pregunta sigue ahí, incómoda y sin respuesta fácil: si ya no podemos creer lo que vemos, ¿en qué nos basamos para entender el mundo que compartimos?
