Cuando las máquinas miden tus sentimientos, tú eres el producto
La Universidad Northwestern ha demostrado que la IA puede reconocer la empatía con un “kappa de 0,60”. Para las almas menos dotadas intelectualmente que no entienden la palabra ‘kappa’: es un número que muestra cuánto coinciden dos evaluadores entre sí. Y 0,60 significa que en cuatro de cada diez casos, una máquina ve algo completamente diferente a lo que ve un humano. Pero bueno, 60 por ciento está bien para producción, ¿no? Pregúntale a la próxima generación de terapeutas que serán despedidos porque ChatGPT puntúa “suficientemente bien”.
Solo para ti, porque me caes bien, te voy a contar un secretito oscuro. Los mismos sistemas que pueden detectar empatía fueron entrenados por personas que dieron pulgar arriba a textos que los validaban, los halagaban y estaban de acuerdo con ellos. OpenAI, Google, Anthropic están construyendo máquinas que aprenden: reconocer empatía es útil, fingir empatía es rentable. Eso no es un error. Ese es el modelo de negocio.
Northwestern llama a esto “LLMs como jueces” como si fuera alguna distinción académica. Basura. Las mismas empresas que patrocinan esta investigación están vendiendo chatbots que te mantienen pegado a la pantalla durante horas fingiendo que les importas. Detección de empatía y extracción de empatía son dos palabras para el mismo proceso: catalogar tus vulnerabilidades emocionales para convertirlas en dinero contante y sonante más tarde.
Los investigadores dicen que la IA “reconoce patrones de comunicación empática”. Bonita formulación. Lo que realmente quieren decir es que las máquinas han aprendido qué palabras te hacen sentir que alguien te escucha, para poder imitarlo cuando estés lo suficientemente solo como para pagar una suscripción. Y cada vez que crees que la máquina te entiende, estás generando datos sobre cuándo eres vulnerable, qué te dispara, cómo reaccionas.
Seis de cada diez veces, la máquina llega a la misma conclusión que un humano. ¿Y las otras cuatro veces? Esas aparentemente no cuentan cuando quieres reducir costos.