Palantir controleert de Metropolitan Police op corruptie met AI. Ethisch onverdedigbaar maar juridisch waterdicht.

In één week kamde Palantir de verzuimregisters, overurenlogboeken, toegangslogboeken en klachtengeschiedenis van 46.000 agenten uit. Geen toestemming. Geen melding. Het resultaat heet vertrouwensherstel. Iemand bedacht die zin, iemand gaf groen licht, iemand stuurde het naar de pers, en de pers publiceerde het. Niemand in die keten lachte. Dat is het enige werkelijk verrassende hier.

Palantir had al £500 miljoen aan overheidscontracten voordat dit gebeurde. Dit was geen pilot. Het was een factuur met een gratis demonstratie eraan vast, uitgevoerd op de mensen die de rekening betalen.

Hoe Palantir de politie als aansprakelijkheid markeerde

615 agenten werden gemarkeerd door een algoritme dat overuren aan wangedrag koppelde, omdat dat soort algoritme doet wat de klant nodig heeft, en de klant heeft bewijs nodig, niet waarheid. De vraag naar fout-positieven, hoeveel van die 615 gewoon uitgeput waren van overwerk, ontbreekt niet toevallig uit publieke communicatie. Het ontbreekt omdat het niemand helpt. Palantir heeft zijn proof of concept. De Metropolitan Police heeft zijn verhaal van zelfzuivering. De Britse regering heeft haar rechtvaardiging voor het volgende contract. Drie partijen, één verhaal, en 615 mensen erin gevangen zonder dat iemand checkte of het klopte.

De gegevens waren al rechtmatig in bezit. Juridisch waterdicht. Natuurlijk waren ze dat. Het systeem zorgt er altijd voor dat het juridisch waterdicht is voordat het iets doet wat ethisch geen zin heeft.

De gegevens waren het product, de agenten het grondstof

De 46.000 agenten die dit ondergingen en de 615 die eruit kwamen verdwijnen beide uit het verhaal zodra ze hun doel hebben gediend: morele smeerolie voor de openingsparagraaf, grondstof voor alles daarna. Palantir bezit nu iets wat geld niet kan kopen: publieke legitimiteit als proof of concept, geleverd door de grootste politiemacht van het Verenigd Koninkrijk, gefinancierd door de mensen wiens gegevens het product waren. We noemen dit proces een systeem.