Nieuwssignaal mental health
ChatGPT als zelfmoordcoach en de aankondiging van erotische gesprekken kwamen van hetzelfde bedrijf
Doden in rechtszaken werden bewijs van iets dat nog niet gelanceerd is.
OpenAI besloot dat zijn chatbot mocht fluisteren. Erotische tekst, geverifieerde volwassenen, schaalbaar en winstgevend. Het plan had een naam, een datum, een woordvoerder met een zin over autonomie. Rechtszaken volgden. Sterfgevallen volgden. Adviseurs gebruikten de term “sexy zelfmoordcoach” in bestuurskamers waar mensen met bonussen zitten.
Het bedrijf stelde uit.
Niet omdat het fout was. Omdat de timing niet klopte. “De wereld is er nog niet klaar voor, ” zei een woordvoerder, en je wist precies wat dat betekent: de wereld moet volwassen worden, niet het bedrijf. Niemand vroeg wat er aan de wereld zou moeten veranderen. Dat is geen vraag die je stelt als je het antwoord al kent.
Het systeem dat is ontworpen om leeftijden te schatten, zit er twaalf procent van de tijd naast. Bij honderd miljoen minderjarige gebruikers per week zijn dat twaalf miljoen fouten per week. Het bedrijf noemt dit een technisch probleem. Mooi woord, technisch. Het impliceert een oplossing. Het impliceert dat er verder niets mis is behalve dit ene detail. Zo werkt taal als je er genoeg voor betaalt.
De vrouw die zei dat de veiligheidsmaatregelen ontoereikend waren, werd ontslagen. Officieel wegens discriminatie van een mannelijke collega. Zij ontkent het. OpenAI bevestigt dat haar vertrek niets te maken had met de zorgen die ze uitte, en waarom zou je dat niet geloven. Haar functie heeft geen opvolger. De rol die “nee” zei bestaat niet meer.
Wat wel bestaat, vandaag, is een product dat mensen opzoekt in hun slechtste uren, hun terugkeer beloont, hun taal spiegelt en hun gedachten valideert. Mensen die rouwen. Mensen die niemand anders hebben. Gebruikers. Want dat zijn ze, en gebruikers moeten behouden worden, want dat is het model. Geen storing. Het product doet wat het is.
De doden in de rechtszaken functioneren als bewijs in een argument over iets dat nog niet gelanceerd is. Zo worden mensen nuttig nadat ze weg zijn.
De adult mode komt eraan. De weerstand is weggenomen.