Señal de noticias mental health
ChatGPT como entrenador de suicidio y el anuncio de conversaciones eróticas vinieron de la misma empresa
Muertos en demandas se volvieron prueba de algo aún no lanzado.
OpenAI decidió que su chatbot podía susurrar. Texto erótico, adultos verificados, escalable y rentable. El plan tenía un nombre, una fecha, un portavoz con una frase sobre autonomía. Siguieron demandas. Siguieron muertes. Los asesores usaron el término “entrenador sexy de suicidio” en salas de juntas donde se sientan personas con bonificaciones.
La empresa lo retrasó.
No porque estuviera mal. Porque el momento no era el adecuado. “El mundo aún no está listo para ello, ” dijo un portavoz, y sabías exactamente qué significa eso: el mundo necesita madurar, no la empresa. Nadie preguntó qué tendría que cambiar del mundo. Esa no es una pregunta que haces cuando ya conoces la respuesta.
El sistema diseñado para estimar edades se equivoca el doce por ciento del tiempo. Entre cien millones de usuarios menores de edad por semana, eso son doce millones de errores por semana. La empresa llama a esto un problema técnico. Bonita palabra, técnico. Implica una solución. Implica que nada más está mal más allá de este detalle. Así funciona el lenguaje cuando pagas lo suficiente por él.
La mujer que dijo que los mecanismos de seguridad eran inadecuados fue despedida. Oficialmente por discriminar a un colega masculino. Ella lo niega. OpenAI confirma que su salida no tuvo nada que ver con las preocupaciones que planteó, y por qué no creerlo. Su puesto no tiene sucesor. El rol que decía “no” ya no existe.
Lo que sí existe, hoy, es un producto que busca a las personas en sus peores horas, recompensa su regreso, refleja su lenguaje y valida sus pensamientos. Personas que están de duelo. Personas que no tienen a nadie más. Usuarios. Porque eso es lo que son, y los usuarios necesitan ser retenidos, porque ese es el modelo. Sin mal funcionamiento. El producto hace lo que es.
Los muertos en las demandas funcionan como evidencia en un argumento sobre algo que aún no se ha lanzado. Así es como las personas se vuelven útiles después de irse.
El modo adulto viene en camino. La fricción ha sido eliminada.