Los moderadores de contenido son las personas que revisan lo que no debería existir en internet: beheadings, abuso infantil, suicidios en directo, tortura de animales, vídeos de guerra sin editar. Lo hacen durante horas, con cuotas de revisión que en algunas plataformas superan los 1.000 vídeos al día. Y la moderación de contenido tiene un coste en salud mental que las grandes empresas tecnológicas llevan años minimizando, externalizando y, en muchos casos, ignorando.
No es un problema menor ni periférico. Es el reverso oscuro de internet tal como lo conocemos, el trabajo invisible que mantiene las plataformas presentables. Sin estas personas, lo que verías en tu muro de Facebook o en tu búsqueda de YouTube sería radicalmente distinto. El problema es que muy pocas de ellas salen indemnes.
¿Qué hace exactamente un moderador de contenido?
Un moderador de contenido toma decisiones sobre si un vídeo, imagen o texto viola las normas de una plataforma, y lo hace a una velocidad que no deja margen para el procesamiento emocional. En empresas como Meta, TikTok o YouTube, gran parte de esa labor se externaliza a compañías como Accenture, Teleperformance o Majorel, que contratan a miles de trabajadores en países con costes laborales bajos: Kenia, Filipinas, Colombia, Costa Rica.
Las condiciones documentadas en varios casos judiciales y reportajes de investigación muestran un patrón repetido. Los trabajadores tienen pocos segundos por decisión, descansos limitados, acceso insuficiente a apoyo psicológico y cláusulas de confidencialidad que les impiden hablar de lo que ven. En algunos centros se reporta que el apoyo emocional disponible consiste en una sala con colchonetas y un psicólogo para cientos de empleados.
En 2023, un grupo de moderadores de Meta en Kenia presentó una demanda colectiva ante los tribunales kenianos alegando que la empresa no había cumplido con sus obligaciones de salud mental. Los testimonios recogidos en ese proceso describían pesadillas recurrentes, hipervigilancia, incapacidad para dormir y síntomas consistentes con trastorno de estrés postraumático. El caso llegó a los tribunales, que en 2024 permitieron que siguiera adelante.
¿Qué le pasa al cerebro cuando ves eso durante horas?
La exposición repetida a contenido traumático produce en el cerebro efectos comparables a los del trauma directo. Los psicólogos lo llaman trauma vicario o traumatización secundaria: el sistema nervioso reacciona ante imágenes violentas casi de la misma manera que reaccionaría si la persona estuviera físicamente presente en la escena. No es metáfora, es fisiología.
El problema se agrava con la repetición. Una persona que revisa ese tipo de contenido durante meses desarrolla lo que algunos investigadores describen como embotamiento emocional progresivo: al principio hay impacto, luego hay distancia, luego hay dificultad para conectar emocionalmente con cualquier cosa, incluidas las personas cercanas. Es un mecanismo de defensa del sistema nervioso que tiene consecuencias fuera del trabajo.
Un informe de 2020 de la organización sin ánimo de lucro Foxglove, junto con testimonios recogidos por Time en su investigación sobre moderadores de Facebook en 2019, documentó casos de adicción al alcohol, ruptura de relaciones familiares y, en al menos un caso, un intento de suicidio que el trabajador atribuyó directamente a su exposición laboral. En la misma línea, lo que las pantallas hacen al cerebro cuando la exposición es masiva y constante está mucho más documentado de lo que la industria reconoce públicamente.
A esto se suma un factor específico de este trabajo: la soledad cognitiva. Los moderadores no pueden hablar de lo que ven. Con sus familias, no. Con sus amigos, no. Con nadie fuera del entorno laboral, en muchos casos tampoco, porque los acuerdos de confidencialidad son amplios y las consecuencias de romperlos, reales.
¿Por qué las plataformas no contratan directamente a sus moderadores?
La externalización de la moderación de contenido no es un accidente organizativo: es una decisión estratégica que tiene consecuencias muy concretas. Cuando Meta o Google contratan a través de empresas intermediarias, no son legalmente el empleador directo. Eso significa que los estándares laborales que aplican a sus empleados en Silicon Valley, incluyendo acceso a terapia, salarios altos y protección sindical, no tienen por qué extenderse a los trabajadores que limpian su contenido en Nairobi o Manila.
El modelo crea una distancia legal y moral que resulta muy cómoda. Las plataformas pueden decir que cumplen con las leyes laborales del país donde opera el proveedor, sin que eso implique nada sobre lo que ven esas personas cada día. Y como los contratos incluyen cláusulas de confidencialidad muy amplias, los propios trabajadores tienen dificultades para hablar públicamente de sus condiciones. Algo que encaja con lo que ya hemos analizado en este medio sobre cómo unas pocas empresas controlan lo que ocurre en internet: el poder está concentrado, pero la responsabilidad tiende a difuminarse.
En 2020, Facebook llegó a un acuerdo extrajudicial por 52 millones de dólares con moderadores estadounidenses que habían demandado a la compañía por daños psicológicos. Fue un reconocimiento implícito del problema. Sin embargo, ese acuerdo cubrió a trabajadores de Estados Unidos contratados a través de empresas como Cognizant. Los miles de moderadores de otros países no formaban parte de ese acuerdo.
¿Puede la inteligencia artificial reemplazar este trabajo?
Las grandes plataformas llevan años anunciando que la IA se encargará de la moderación de contenido, y parcialmente ya ocurre: Meta, YouTube y TikTok usan sistemas automatizados que retiran millones de piezas de contenido antes de que nadie las vea. En el cuarto trimestre de 2023, Meta informó de que sus sistemas automáticos detectaron el 96,7% del contenido de discurso de odio antes de que ningún usuario lo reportara.
El problema es que los sistemas de IA fallan de formas que los humanos no fallan. No entienden el contexto cultural, el sarcasmo ni la ambigüedad. Retiran vídeos de denuncias de abusos porque muestran violencia; dejan pasar contenido diseñado específicamente para eludir los filtros; y cuando cometen errores a escala, los cometen con millones de piezas a la vez. Por eso la revisión humana no ha desaparecido, aunque la industria prefiera no hablar de ella.
La automatización ha reducido el volumen de trabajo en algunas categorías de contenido, pero ha aumentado la concentración de lo que llega a los humanos: si la IA filtra lo obvio, lo que queda para revisión humana es lo más ambiguo, lo más perturbador, lo más difícil de clasificar. En la práctica, la IA no elimina el trauma de la moderación, lo concentra.
Hay también una dimensión que tiene que ver con cómo se construye ese propio sistema de IA. Alguien tiene que etiquetar los datos de entrenamiento, decidir qué es violento y qué no, qué es abuso y qué es arte. Ese trabajo de etiquetado, también externalizado y también poco remunerado, reproduce el mismo problema en otra capa del proceso. Los datos que alimentan estos sistemas tienen una historia humana detrás que rara vez se cuenta.
Lo que se exige sin decirse
Existe un acuerdo tácito en el funcionamiento de internet que casi nadie formula en voz alta. Los usuarios quieren plataformas limpias. Las plataformas quieren crecer. Los anunciantes quieren aparecer junto a contenido seguro. Y todo eso requiere que alguien, en algún lugar, vea lo que no debería existir. La cadena funciona porque el eslabón más débil no tiene voz.
Algunos de estos trabajadores han empezado a organizarse. En 2023, moderadores de Sama, una empresa proveedora de Meta en Kenia, fundaron el primer sindicato de trabajadores de moderación de contenido en África. La plataforma respondió, según los demandantes, no renovando el contrato con Sama y trasladando el trabajo a otro proveedor. Esta secuencia, si se confirma en sede judicial, ilustra perfectamente la lógica del sistema: cuando los trabajadores se organizan, el trabajo se mueve.
Mientras tanto, los algoritmos que deciden qué contenido se amplifica siguen optimizando para el engagement, lo que con frecuencia favorece el contenido más extremo y emocional. Todo esto forma parte del mismo sistema: el contenido que genera más clics es, a menudo, el que más trabajo de moderación requiere. Y los algoritmos de recomendación llevan años empujando en esa dirección sin que nadie haya puesto freno de verdad.
Los efectos no se quedan solo en quienes moderan. La exposición constante a contenido diseñado para provocar reacciones intensas tiene consecuencias para todos los usuarios, aunque de forma más difusa. Ya hemos visto cómo el scroll infinito reformateó nuestra relación con el tiempo libre, en parte porque el contenido que nos mantiene enganchados no es el más neutro.
Hay regulación en marcha. El Reglamento de Servicios Digitales de la Unión Europea, en vigor desde 2024 para las grandes plataformas, obliga a estas a garantizar el bienestar psicológico de los moderadores de contenido, incluidos los contratados a través de terceros. Es la primera norma de este alcance que reconoce explícitamente el problema. Si se aplicará con rigor, o si las plataformas encontrarán formas de cumplir en papel sin cambiar nada en la práctica, es algo que todavía está por ver.
En cualquier caso, la moderación de contenido y la salud mental de quienes la ejercen llevan años siendo el problema que la industria prefiere externalizar también en términos de visibilidad. La comodidad de los mil millones de usuarios tiene un precio que alguien paga. El debate real no es si ese precio existe, sino quién debería asumirlo.
La regulación, las demandas judiciales y el activismo de los propios trabajadores han puesto el tema sobre la mesa. Pero mientras internet siga siendo un espacio sin consecuencias claras para quien genera ese contenido, el trabajo de limpiarlo seguirá cayendo sobre personas mal pagadas, invisibles y con contratos diseñados para que no puedan hablar.
¿Cuánto tiempo más puede sostenerse un sistema así?
La pregunta que queda en el aire no es técnica, es política y moral. Si la IA avanza, el argumento de que «no hay alternativa humana» se debilita. Si la regulación europea obliga a resultados concretos, el modelo de externalización sin responsabilidad se vuelve más caro. Y si los trabajadores de moderación continúan organizándose en los países donde están concentrados, el sistema tendrá que ajustarse de formas que hoy las plataformas no contemplan.
Lo que parece difícil de sostener indefinidamente es la combinación actual: plataformas con valoraciones de billones de dólares sostenidas en parte por trabajadores con síntomas de estrés postraumático que no pueden hablar de lo que ven. Eso no es un detalle de gestión de recursos humanos. Es una contradicción estructural. Y las contradicciones estructurales, más tarde o más temprano, se resuelven de una forma u otra. La pregunta es quién paga el coste de la resolución, y si ese coste lo pagará de nuevo quien menos capacidad tiene de evitarlo.
Preguntas frecuentes
¿Qué es el trauma vicario y por qué afecta a los moderadores de contenido?
El trauma vicario es el impacto psicológico que produce la exposición repetida a experiencias traumáticas ajenas, sin vivirlas directamente. El cerebro reacciona ante imágenes de violencia de forma similar a como lo haría ante una amenaza real. En los moderadores de contenido, esa exposición es masiva y continua, lo que convierte el trauma vicario en un riesgo laboral documentado, no en una reacción exagerada.
¿Las grandes plataformas tienen moderadores propios o los externalizan?
La mayor parte de la moderación de contenido en plataformas como Meta, TikTok o YouTube la realizan empresas externas contratadas para ello. Compañías como Accenture, Teleperformance o Majorel operan centros en países como Kenia, Filipinas o Colombia. Esa externalización crea una distancia legal que permite a las plataformas no ser el empleador directo y, por tanto, no aplicar directamente sus propios estándares laborales.
¿Es cierto que Facebook pagó millones a sus moderadores por daños psicológicos?
Sí, aunque con matices. En 2020, Facebook llegó a un acuerdo extrajudicial de 52 millones de dólares con moderadores que habían trabajado en Estados Unidos a través de la empresa Cognizant. El acuerdo reconoció implícitamente el daño psicológico causado por las condiciones de trabajo. Sin embargo, moderadores de otros países, como los de Kenia, no estaban incluidos y han tenido que recurrir a demandas propias.
¿La inteligencia artificial puede hacerse cargo de toda la moderación de contenido?
No completamente, al menos con la tecnología actual. Los sistemas automáticos ya retiran una parte significativa del contenido problemático antes de que nadie lo reporte, pero fallan con el contexto cultural, el sarcasmo y los casos ambiguos. En la práctica, la IA ha reducido el volumen de revisiones simples, pero lo que llega a los moderadores humanos tiende a ser el contenido más difícil y perturbador.
¿Qué dice la regulación europea sobre los moderadores de contenido?
El Reglamento de Servicios Digitales de la Unión Europea, aplicable a las grandes plataformas desde 2024, obliga a estas empresas a garantizar el bienestar psicológico de los moderadores, incluidos los contratados a través de terceros. Es la primera norma de este alcance que reconoce el problema de forma explícita. Su aplicación real y sus mecanismos de control efectivo están todavía en fase de desarrollo.
¿Pueden los moderadores de contenido hablar de lo que ven en el trabajo?
En la mayoría de los casos, no. Los contratos incluyen cláusulas de confidencialidad amplias que impiden a los trabajadores revelar detalles de su actividad laboral. Eso tiene consecuencias directas en su salud mental: no poder hablar de experiencias traumáticas con personas cercanas es un factor que agrava el impacto psicológico y dificulta el acceso a apoyo terapéutico externo.
