Het democratische tekort van de AI-stem heet efficiëntie

Tien mensen. Laat dat bezinken. Tien. Niet honderd, niet een democratisch gekozen commissie, niet een publieke raadpleging waar iemand je ooit één keer vroeg wat je ervan dacht. Tien ingenieurs in een kantoor ergens in Redmond bepaalden hoe honderden miljoenen mensen klinken als ze hun bank bellen. Hun zorgverzekeraar. Het energiebedrijf dat ze net een rekening stuurde die ze bijna van hun stoel blies.

En Mustafa Suleyman, de man met het gezicht van iemand die serieus nagedacht heeft over jouw welzijn op een TED Talk, noemt dit een filosofie. Een. Filosofie. Slanke teams. Platte structuren. Maximale impact. Het enige wat plat is, is het antwoord op wie hier voordeel van heeft, zo plat dat je er niet eens over struikelt.

Microsoft evalueert Microsoft en geeft zichzelf een tien

Maar wacht, het wordt nog beter. Microsoft verkoopt de snelweg. Microsoft verkoopt ook de auto. Microsoft int de tol, onderhoudt de vangrails en heeft zojuist een benzinestation geopend waar je geen keuze hebt dan bij te tanken. In de jaarverslagen heet dit “een uitgebreid aanbod.” In de werkelijkheid is het het meest elegante machtsmisbruik dat je met een persbericht kunt camoufleren. Rechter, markt en infrastructuur tegelijk, en de enige wet die geldt is de wet van de aandeelkoers.

De benchmarks? Van Microsoft zelf. Natuurlijk. Waarom zou je iemand anders vragen of je goed bent als jij degene bent die de maatstaf vasthoudt? Er is geen verplichte externe auditregeling voor AI-prestatieverklaringen. Niemand controleert of dit systeem werkt voor mensen met een accent, voor mensen die op een slechte verbinding bellen, voor de mensen die het meest nodig hebben en het slechtst bediend worden. Er is een getal. Er is een persbericht. Er is een aandeelkoers. In die volgorde, en niet toevallig.

De AGI-commissie wiens leden niemand kent bepaalt ieders toekomst

En dan, het hoogtepunt van onze tijd: de AGI-verificatiecommissie. Twee bedrijven die beide baat hebben bij het uitstellen van het moment waarop AGI officieel wordt verklaard, hebben bepaald wie mag antwoorden op de vraag wanneer AGI is bereikt. Lidmaatschap: geheim. Criteria: geheim. Gevolgen: ook geheim, voorlopig. Dit is geen toezicht. Dit is een vertraging vermomd als toezicht, ontworpen door de partijen die van de vertraging profiteren.