Meta bespiedde je in je badkamer

Toestemming wordt hier als een technisch feit gepresenteerd: de gebruiker heeft ingestemd. Maar toestemming vereist begrip, en begrip vereist een omgeving waarin je weet wat er gebeurt. Dat ontbreekt structureel. De man die zijn Meta-bril op het nachtkastje laat liggen, weet niet dat zijn bril opneemt. Zijn partner weet niet dat ze wordt bespied als ze uit de badkamer loopt. En een annotator in Nairobi ziet precies wat hij ziet, maar heeft geen keuze dan door te klikken.

Het structurele plaatje wijst op één mechanisme: een aannemeersketen die gegevensverzameling op schaal mogelijk maakt terwijl juridische aansprakelijkheid verdwijnt. “Ontworpen voor privacy” is geen beschrijving van een systeem. Het is een marketingproduct dat bewust tegenstrijdig is met hoe het systeem werkelijk functioneert. Tegelijkertijd onthult de behoefte aan menselijke annotatie een technische realiteit die zelden hardop wordt gezegd: modellen leren niet zelf. Ze leren van gelabeld menselijk werk, en dat werk vereist dat mensen zien wat gebruikers onwetend vastleggen. Opt-out als standaard, in plaats van opt-in, is geen toeval in deze opzet. Het is een bewuste keuze die de datapijplijn draaiende houdt. Met gezichtsherkenning als volgende stap verschuift dat risico van de persoon die de bril draagt naar iedereen om hen heen.

Wat uiteindelijk verdwijnt, is het vermogen om te weten wanneer je privé bent. Niet door één inbreuk, maar door een omgeving die de grens structureel onzichtbaar maakt. De vraag is niet of gebruikers beter moeten opletten. De vraag is wat voor samenleving we worden als opletten niet meer volstaat omdat de technologie altijd aan staat.