Palantir usa IA para revisar la Policía Metropolitana por corrupción. Indefendible éticamente pero legalmente impecable.

En el espacio de una semana, Palantir revisó los registros de ausencias, registros de horas extras, registros de acceso e historiales de quejas de 46.000 agentes. Sin consentimiento. Sin notificación. El resultado se llama restauración de confianza. Alguien acuñó esa frase, alguien la aprobó, alguien la envió a la prensa, y la prensa la publicó. Nadie en esa cadena se rió. Eso es lo único genuinamente sorprendente aquí.

Palantir ya tenía £500 millones en contratos públicos antes de que esto sucediera. Esto no fue un piloto. Fue una factura con una demostración gratuita adjunta, realizada sobre las personas que pagan la factura.

Cómo Palantir marcó la aplicación de la ley como un pasivo

615 agentes fueron marcados por un algoritmo que vinculaba horas extras con mala conducta, porque ese tipo de algoritmo hace lo que el cliente necesita que haga, y el cliente necesita evidencia, no verdad. La pregunta de falsos positivos, cuántos de esos 615 simplemente estaban agotados por el exceso de trabajo, no falta de la comunicación pública por accidente. Falta porque no sirve a nadie. Palantir tiene su prueba de concepto. La Policía Metropolitana tiene su narrativa de auto-purificación. El gobierno británico tiene su justificación para el próximo contrato. Tres partes, una historia, y 615 personas atrapadas dentro sin que nadie verificara si se sostenía.

Los datos ya estaban legalmente en posesión. Legalmente impecable. Por supuesto que lo eran. El sistema siempre se asegura de que sea legalmente impecable antes de hacer algo que no tiene sentido ético.

Los datos eran el producto, los agentes la materia prima

Los 46.000 agentes que pasaron por esto y los 615 que salieron del otro lado desaparecen de la historia una vez que han cumplido su propósito: lubricante moral para el párrafo de apertura, materia prima para todo lo demás. Palantir ahora posee algo que el dinero no puede comprar: legitimidad pública como prueba de concepto, entregada por la mayor fuerza policial del Reino Unido, financiada por las personas cuyos datos eran el producto. Llamamos a este proceso un sistema.