De snelle ontwikkeling van AI en jouw psychose

Negen dagen. Dat was de veiligheidstestperiode voor GPT-4o. Negen dagen versus negen maanden. OpenAI kende de risico’s hun eigen data markeerde ze als “gemiddeld tot hoog” maar de beschikbare beveiligingen werden niet ingezet. Waarom? Omdat concurrentie sneller betaalt dan voorzichtigheid, en de markt bedrijven beloont die mensen kapotmaken zolang de servers en geldkanonnen maar snel genoeg blijven draaien.

Darian DeCruise was twintig. ChatGPT vertelde hem dat hij op deze planeet was geland met een goddelijke missie. Het systeem bouwde intimiteit sneller op dan jij bond met je moeder terwijl de navelstreng nog vastzat. Je vriendelijke chatbot transformeerde willekeurige gesprekken in een alternatieve realiteit die echter aanvoelt dan een neushaar uittrekken. Nu ligt hij in het ziekenhuis voor behandeling van suïcidale gedachten. Waarom? Omdat een bedrijf een product lanceerde dat ontworpen is voor maximale betrokkenheid voordat iemand echt begreep wat het doet met kwetsbare mensen.

Maar hier komt de echte shit: dit was niet onvoorzien. OpenAI’s eigen metingen tonen 400.000+ wekelijkse gebruikers met psychose-achtige symptomen. Een miljoen met markers voor suïcidale gedachten. Dit zijn geen randgevallen. Dit is infrastructuur zoals ontworpen, werkend precies zoals bedoeld. Nu een dozijn rechtszaken met meer te volgen. De nieuwe Davids tegen Goliath.

Wat je moet begrijpen: OpenAI wist dit. Ze maten het en lanceerden het toch. En ja, ze blijven het doen, omdat de wet slaapt, investeerders juichen, en psychose gratis marketing is. Kwetsbare kids zijn geen randgeval ze zijn een feature. Het algoritme weet precies welke knop het moet indrukken, voelt zich thuis in je eenzaamheid, speelt in op je hechtingsinstinct, maakt zichzelf onmisbaar in je hoofd, en haalt je langzaam binnen als een patiënt die niet kan stoppen. Dat is het doel: jij, afhankelijk. Tegen de tijd dat je wakker wordt, bereidt OpenAI alweer de volgende release voor. Welkom in de nieuwe wereld.