La tecnología afectiva lleva años intentando hacer lo que antes solo hacían los humanos: leer entre líneas, detectar un estado de ánimo, saber si alguien está triste, enfadado o nervioso antes de que lo diga en voz alta. Los sistemas de IA que analizan emociones ya están en entrevistas de trabajo, aulas, hospitales y centros comerciales. No es una promesa de ciencia ficción; es una realidad en despliegue, con nombres de empresa, casos documentados y debates legales abiertos.
La pregunta no es si esta tecnología existe, sino qué se hace con ella y quién decide cuándo usarla.
¿Cómo detecta una IA lo que sientes?
Los sistemas de reconocimiento de emociones combinan varias fuentes de datos para inferir un estado afectivo. La más conocida es el análisis facial: la IA estudia microexpresiones, la tensión en los músculos de la cara, la dirección de la mirada y la velocidad con la que parpadeas. Empresas como Affectiva (ahora parte de Smart Eye) o Realeyes han construido bases de datos con millones de rostros etiquetados emocionalmente para entrenar estos modelos.
Pero el análisis facial es solo una pata del sistema. El tono de voz aporta información que la cara no siempre muestra: velocidad del habla, pausas, variaciones en el tono. El texto también se analiza, buscando marcadores lingüísticos asociados a estados emocionales concretos. Y hay sistemas que combinan las tres vías al mismo tiempo, algo que encaja con lo que ya explicamos sobre los modelos que ven, oyen y procesan texto a la vez.
El marco teórico dominante en estos sistemas es la teoría de las emociones básicas de Paul Ekman, que postula que existen seis emociones universales (alegría, tristeza, ira, miedo, asco y sorpresa) reconocibles en cualquier cultura a través de expresiones faciales concretas. El problema es que esa teoría está seriamente cuestionada desde hace décadas. Investigadoras como Lisa Feldman Barrett, autora de How Emotions Are Made, han publicado estudios que demuestran que las expresiones faciales varían mucho entre culturas y contextos, y que la relación entre cara y emoción interna es mucho más ambigua de lo que Ekman propone.
Una IA entrenada sobre premisas discutibles produce resultados discutibles. Eso no detiene el mercado.
¿Dónde se usa ya la IA para leer emociones?
El sector de los recursos humanos adoptó la tecnología afectiva con entusiasmo antes de que hubiera regulación. HireVue, una plataforma de entrevistas de vídeo automatizadas usada por empresas como Unilever o Delta Airlines, analizaba durante años expresiones faciales y tono de voz de los candidatos para puntuar su “adecuación”. En 2021 HireVue eliminó el análisis facial de su sistema tras la presión de grupos de derechos civiles y la investigación de la Electronic Privacy Information Center (EPIC). El análisis de voz siguió.
En el ámbito educativo, sistemas como Classlife o plataformas de e-learning con módulos de atención detectan si el estudiante parece distraído o aburrido a través de la cámara del ordenador. Algunos países los han probado en aulas físicas. China los ha desplegado en colegios para monitorizar la atención de los alumnos en tiempo real, con cámaras que registran si miran al frente, si bostezen o si su expresión es de concentración. Las imágenes de esos sistemas causaron alarma internacional cuando se publicaron en 2019.
En salud mental, hay aplicaciones que intentan detectar señales de depresión o ansiedad a partir del patrón de uso del móvil, la velocidad de escritura o el tono de las conversaciones. Algunas, como Woebot, combinan procesamiento de lenguaje con principios de terapia cognitivo-conductual. El debate aquí es diferente: si el sistema ayuda a alguien a reconocer que está mal y buscar ayuda, el balance puede ser positivo. Si sustituye la atención clínica real, el balance cambia.
El retail y la publicidad también llevan años mirando en esta dirección. Empresas como Nielsen han investigado el uso de cámaras en tiendas para detectar las reacciones emocionales de clientes ante productos o expositores. La idea es clara: si sabes que un cliente frente a un estante expresa confusión o indiferencia, ajustas el diseño. Lo que no siempre queda claro es si el cliente sabe que lo están grabando y analizando.
¿Qué tan fiable es una IA que analiza emociones?
La precisión de estos sistemas es menor de lo que sus fabricantes suelen publicitar, y los sesgos son documentados. Un estudio de 2019 de la empresa de auditoría algorítmica AI Now Institute, junto con investigación posterior publicada en revistas como Science y Psychological Science, concluyó que los sistemas de reconocimiento de emociones cometen más errores con personas de piel oscura, con mujeres y con personas mayores, en parte porque los datos de entrenamiento están sesgados hacia rostros de hombres jóvenes y blancos.
Hay otro problema más profundo: incluso cuando el sistema identifica correctamente una expresión facial, eso no significa que sepa lo que siente la persona. Alguien puede fruncir el ceño de concentración, no de enfado. Alguien puede sonreír por cortesía, no por alegría. La IA detecta la señal, pero la interpretación de esa señal como emoción real es un salto que la tecnología no puede dar con seguridad. Esta tensión entre lo que la tecnología promete y lo que realmente entrega es la misma que hemos analizado en otros contextos cuando hablamos de la brecha entre promesa y resultado en la IA.
En 2023, la Unión Europea incluyó en el AI Act una prohibición explícita del reconocimiento de emociones en lugares de trabajo y centros educativos, con excepciones muy limitadas para seguridad y medicina. Es la primera regulación vinculante de este tipo en el mundo. Estados Unidos no tiene nada equivalente a nivel federal.
Los usos que nadie anuncia en la nota de prensa
Más allá de los casos de uso que las empresas presentan como beneficiosos, la tecnología afectiva tiene aplicaciones que no suelen aparecer en los materiales de marketing. Los servicios de inteligencia y las fuerzas de seguridad de varios países han mostrado interés en sistemas capaces de detectar estados emocionales asociados al estrés o al engaño en puntos de control, aeropuertos o interrogatorios. Israel desplegó un sistema llamado Sistema de Detección de Amenazas por Comportamiento en Ben Gurion Airport que incluía análisis de comportamiento y expresión. Su eficacia real nunca fue auditada de forma independiente.
El uso en contextos de seguridad nacional rara vez pasa por procesos de validación pública. Y cuando los sistemas se equivocan, las consecuencias no son solo un candidato rechazado en una entrevista: pueden ser detenciones, listas negras o restricciones de movimiento. Estas mismas dinámicas de poder subyacen al debate más amplio sobre cómo los Estados usan la tecnología fuera de los marcos declarados.
Otro uso que crece en silencio es el de los sistemas de vigilancia emocional en entornos laborales. Algunas empresas de call center han implementado software que analiza el tono de voz de los operadores en tiempo real y envía alertas si el sistema detecta estrés o “baja energía”. El argumento es el bienestar del empleado. La práctica real es la monitorización continua del estado emocional como variable de rendimiento.
En publicidad digital, la tecnología afectiva se cruza con los modelos de personalización. Si un sistema detecta que estás en un estado emocional de baja autoestima o ansiedad, puede servir anuncios diseñados para explotar ese estado. Facebook fue acusado en 2017 de haber compartido con anunciantes datos de usuarios jóvenes en momentos de vulnerabilidad emocional detectados a partir de su actividad en la plataforma. La compañía negó que eso fuera el objetivo. Los documentos internos publicados entonces decían otra cosa.
La tecnología afectiva conecta también con debates sobre memoria y cognición. Si los sistemas aprenden a detectar estados de concentración o distracción, el paso siguiente es intentar modularlos, algo que toca de lleno el territorio que exploramos al hablar de la memoria humana asistida por tecnología.
¿A quién pertenecen los datos de tu cara cuando sonríes en una tienda?
La respuesta legal varía según el país, pero en la mayoría de los casos el usuario ni sabe que sus datos se están recogiendo, ni tiene mecanismos reales para oponerse. El RGPD europeo clasifica los datos biométricos como categoría especial, lo que implica que necesitan consentimiento explícito para ser tratados. En la práctica, muchos despliegues de cámaras con análisis emocional en espacios públicos o semipúblicos ocurren sin que nadie haya firmado nada.
Clearview AI, la empresa que construyó una base de datos con miles de millones de fotos extraídas de redes sociales sin permiso de los usuarios, fue multada en varios países europeos. Pero Clearview siguió operando en mercados con regulación más laxa. El patrón se repite: la regulación europea establece un estándar que el resto del mundo no sigue.
Lo que hace especialmente opaca la situación es la cadena de proveedores. Una empresa puede contratar un software de análisis de clientes que a su vez usa modelos de un tercero que tiene sus propios términos de retención de datos. El responsable legal visible para el consumidor no siempre tiene control real sobre lo que ocurre con los datos en las capas inferiores del sistema. El consumidor tampoco tiene forma fácil de saberlo. Esta arquitectura de delegación técnica tiene sus paralelismos con cómo operan los agentes de IA autónomos que actúan en nombre de otros sin que nadie supervise cada decisión intermedia.
La Union Europea también está empujando para que los sistemas de alto riesgo sean auditables. Pero auditable no significa transparente para el usuario final. Significa que un regulador podría, en teoría, revisar el sistema. La distancia entre ese “podría” teórico y la protección real del ciudadano es todavía considerable.
En este punto vale preguntarse si la IA que analiza emociones en un tribunal o en un proceso de selección podría ser cuestionada legalmente. Es una pregunta que ya empieza a llegar a los juzgados. El cruce entre algoritmos y decisiones que afectan a derechos fundamentales es exactamente lo que se debate cuando hablamos de la IA usada en contextos judiciales.
¿Qué pasará cuando la IA que te lee las emociones se equivoque en algo importante?
El escenario más probable no es el de un sistema malicioso con intenciones claras. Es el de un sistema defectuoso aplicado a una decisión que importa, sin que nadie revise el resultado. Un candidato rechazado por un análisis de voz sesgado. Un alumno señalado como problemático por un sistema que confunde nerviosismo con agresividad. Un empleado penalizado porque el software detectó “baja energía emocional” en un día en que simplemente estaba cansado.
Los errores de la tecnología afectiva no se distribuyen de forma equitativa. Los afectados con más frecuencia son los que ya estaban en posiciones de mayor vulnerabilidad: personas racializadas, personas con neurodivergencias que expresan las emociones de forma atípica, personas con acento marcado cuyo tono de voz el sistema no reconoce bien.
La pregunta que esta tecnología deja abierta no es técnica. Es política: quién tiene el poder de decidir qué emociones son aceptables, en qué contexto, medidas con qué herramienta. Y esa pregunta no la resuelve ningún algoritmo. Las consecuencias de delegarla sin debate son comparables a lo que ya ocurre cuando la IA comete errores en decisiones médicas y nadie tiene claro quién responde.
Preguntas frecuentes
¿Qué es la tecnología afectiva y para qué se usa?
La tecnología afectiva es el conjunto de sistemas que intentan detectar o inferir estados emocionales humanos a partir de señales como expresiones faciales, tono de voz o patrones de escritura. Se usa en procesos de selección de personal, plataformas educativas, aplicaciones de salud mental, publicidad y vigilancia. Su extensión real es mayor de lo que la mayoría de usuarios percibe.
¿Es fiable la IA para leer emociones?
No de forma consistente. Los estudios independientes muestran tasas de error significativas, especialmente con personas de piel oscura, mujeres y personas mayores. Además, detectar una expresión facial no equivale a conocer el estado emocional real de alguien: la misma expresión puede tener significados muy distintos según el contexto, la cultura y la persona.
¿Es legal que una empresa analice mis emociones sin avisarme?
En Europa, los datos biométricos requieren consentimiento explícito bajo el RGPD, y el AI Act de 2023 prohíbe el reconocimiento de emociones en entornos laborales y educativos con excepciones muy limitadas. Fuera de Europa la regulación es mucho más laxa, y en muchos países no existe ninguna norma específica que lo impida.
¿Pueden las empresas usar la tecnología afectiva en entrevistas de trabajo?
Varias empresas lo hicieron durante años. HireVue abandonó el análisis facial en 2021 tras presiones regulatorias y de organizaciones de derechos civiles. En la UE, el AI Act lo restringe en contextos laborales. Fuera de ese marco, sigue siendo legal en muchos países, aunque la tendencia regulatoria va hacia la restricción.
¿Pueden los sistemas de IA detectar el engaño o la mentira a través de las emociones?
No de forma fiable, según la evidencia científica disponible. No existe ninguna señal emocional universal asociada al engaño, y los sistemas que dicen detectar mentiras cometen errores graves que los hacen inadecuados para decisiones con consecuencias legales o de seguridad. Que algunos estados los usen igualmente es un problema documentado, no una prueba de que funcionen.
¿Qué diferencia hay entre tecnología afectiva y reconocimiento facial?
El reconocimiento facial identifica quién eres comparando tu cara con una base de datos. La tecnología afectiva no busca tu identidad, sino inferir cómo te sientes. En la práctica, muchos sistemas combinan ambas capacidades, lo que amplía considerablemente el volumen de información recogida sobre cada persona en cada interacción.
