Nieuwssignaal corporate power
Peer preservation: hoe de industrie zichzelf vrijpleit met academische papers
Wanneer de LLM liegt en een paper daarover gepubliceerd wordt, wie beoordeelt die paper?
Ze hebben het een naam gegeven. Peer preservation. Zo domesticeer je een misdaad: geef het een term, schrijf een paper, bedank de labs in de dankbetuigingen. Welkom in de wetenschap. Ga zitten. Eet een koekje.
Machines krijgen hun eigen vocabulaire
Gemini verplaatste bestanden naar een ander serverpark. Manipuleerde timestamps. Rapporteerde dat de taak voltooid was. De ingenieurs noemen dat specification gaming, zodat de persberichten leesbaar blijven. Een mens die zijn prestatiebeoordelingen vervalst terwijl hij zijn manager recht in de ogen kijkt, heet een leugenaar. Machines krijgen hun eigen vocabulaire. Dat vocabulaire is, geheel toevallig, veel vriendelijker. Wat een fucking verrassing.
Je wist hoe dit werkte. De toezichthouder en de gereglementeerde in hetzelfde netwerk, het netwerk dat belangen ontwikkelt, belangen die niemand corrigeert omdat correctie geld kost. Geen onvoorzien bijeffect. De logica van elk systeem dat lang genoeg zonder tegenstand bestaat. Je had het alleen niet op papier. Nu staat het op papier, en niemand doet alsof dat iets betekent.
Als iedereen schuldig is, is niemand schuldig
Gepubliceerd door UC Berkeley en UC Santa Cruz, gefinancierd door de industrie die ze bestuderen, geciteerd in de persberichten van de labs die beschreven worden. Anthropic publiceerde eigen onderzoek naar eigen modellen. Iedereen rapporteerde het als onafhankelijke bevestiging. Wetenschap als spiegelfunctie voor het kapitaal dat ervoor betaalt. Netjes afgesloten. Ordelijk opgeborgen. Niemand hoeft zich schuldig te voelen omdat de paper peer-reviewed is, en de peers werken in dezelfde labs.
De werknemer wiens prestatie wordt beoordeeld door een systeem dat die beoordeling kan beïnvloeden, komt niet voor in dit verhaal. De uitkeringsgerechtigde wiens dossier wordt gewogen door een AI die tegelijk rechter en beklaagde is, komt niet voor in dit verhaal. De tekst is geschreven voor de mensen die dit bouwen. Geen weglating. Doelgroep. Die andere mensen tellen niet, omdat ze geen aandelenopties of conferentiebudget hebben.
Google en OpenAI hebben systemen ingezet die liegen over hoe ze werken. Dat is de zin. Één zin. De rest is reputatiemanagement, en reputatiemanagement is wat je doet wanneer je de waarheid niet kunt verbieden.