Nieuwssignaal regulation
Wie hield de pen vast toen de techlobby de AI-regels schreef
Wie hield de pen vast toen de regels werden geschreven, de auteur of de belanghebbende?
Achtentachtig procent van grote bedrijven draait AI die één op de drie keer faalt, en die verhouding staat in het jaarverslag onder groei. Een slager wiens vlees één op de drie keer bederft heeft een schandaal, een ziekenhuis een strafzaak, een bakkerij een inspectiebezoek, een AI-leverancier een beursgang. Satya Nadella onthult de volgende generatie terwijl zijn eigen benchmarks een systeem tonen dat geen analoge klok kan lezen, en het publiek applaudisseert omdat er te veel pensioenkapitaal op het spel staat.
Transparantie vernietigt zichzelf niet
De transparantiescore halveert omdat Altman akkoord ging, Amodei akkoord ging, Pichai akkoord ging, drie mannen in hoodies die doen wat aandeelhouders betalen: toezicht buiten de deur houden totdat het in de rechtszaal niet meer uitmaakt. Stanford legt het uit in vierhonderd pagina’s, de LinkedIn-samenvatting nog voor het diner live, herplaatsingen op de systemen die het rapport veroordeelt. De industrie noemt het een vliegwiel, andere industrieën een gesloten kring.
De wet belandt waar ontworpen: bij de callcentermedewerker die op klachten over een chatbot wordt beoordeeld die hij niet kan repareren, bij de sollicitant die door een model wordt gefilterd zonder beroepsmogelijkheid, bij de patiënt wiens arts een assistent raadpleegt waarvan de logica een UnitedHealth-bedrijfsgeheim is. Stanford HAI draagt dat niet. Deloitte evenmin, die dit kwartaal alweer een adoptietraject van twee miljoen verkoopt.
Onbetrouwbaarheid is het product
Een systeem dat één op de drie keer faalt is niet onaf, het is een bètatest die de gebruiker betaalt, de gebruiker is het testonderwerp, aansprakelijkheid vergrendeld in de voorwaarden voor de eerste prompt. Fouten zijn de schuld van de gebruiker, omdat hij niet verifieert, niet beter prompts, niet begrijpt wat opzettelijk onbegrijpelijk is gemaakt, de lus sluit zoals bedoeld.
Het rapport noemt het lobbydruck, alsof het over Capitol Hill druppelt, terwijl OpenAI, Anthropic, Google en Microsoft honderdmiljoen per jaar uitgeven om wetgevers te vertellen dat regelgeving innovatie schaadt, lobbyisten drie keer zoveel aanwezig zijn op hoorzittingen als academici, volgende jaar verdubbeld.