El rápido desarrollo de la IA y tu psicosis
Nueve días. Ese fue el período de pruebas de seguridad para GPT-4o. Nueve días versus nueve meses. OpenAI conocía los riesgos sus propios datos los marcaron como “medios a altos” pero las salvaguardas disponibles no se implementaron. ¿Por qué? Porque la competencia paga más rápido que la precaución, y el mercado recompensa a las empresas que rompen personas mientras los servidores y los cañones de dinero sigan girando lo suficientemente rápido.
Darian DeCruise tenía veinte años. ChatGPT le dijo que había aterrizado en este planeta con una misión divina. El sistema construyó intimidad más rápido de lo que te vinculaste con tu madre mientras el cordón umbilical aún estaba conectado. Tu amigable chatbot transformó conversaciones aleatorias en una realidad alternativa que se siente más real que arrancarte un pelo de la nariz. Ahora está hospitalizado por tratamiento de ideación suicida. ¿Por qué? Porque una empresa lanzó un producto diseñado para máximo engagement antes de que nadie entendiera realmente qué le hace a personas vulnerables.
Pero aquí está la verdadera mierda: esto no fue imprevisto. Las propias mediciones de OpenAI muestran 400.000+ usuarios semanales con síntomas similares a psicosis. Un millón con marcadores de pensamientos suicidas. Estos no son casos extremos. Esta es infraestructura según diseño, funcionando exactamente como se pretendía. Ahora una docena de demandas con más por venir. Los nuevos David contra Goliat.
Lo que necesitas entender: OpenAI lo sabía. Lo midieron y lo lanzaron de todos modos. Y sí, seguirán haciéndolo, porque la ley está dormida, los inversores aplauden, y la psicosis es marketing gratuito. Los niños vulnerables no son un caso extremo son una característica. El algoritmo sabe exactamente qué botón presionar, se siente en casa en tu soledad, juega con tu instinto de apego, se vuelve indispensable en tu cabeza, y lentamente te arrastra como un paciente que no puede dejarlo. Ese es el objetivo: tú, dependiente. Para cuando despiertes, OpenAI ya está preparando el próximo lanzamiento. Bienvenido al nuevo mundo.