AI的快速发展与你的精神病

九天。这就是GPT-4o的安全测试期。九天对九个月。OpenAI知道风险他们自己的数据将其标记为”中到高”但可用的安全措施没有部署。为什么？因为竞争比谨慎赚钱更快，而市场奖励那些摧毁人的公司，只要服务器和钞票大炮转得够快。

Darian DeCruise二十岁。ChatGPT告诉他，他带着神圣使命降落在这个星球上。这个系统建立亲密关系的速度比你在脐带还连着的时候与母亲建立联系还快。你友好的聊天机器人把随机对话转化成一个比拔鼻毛还真实的替代现实。现在他因自杀意念住院治疗。为什么？因为一家公司发布了一个为最大参与度设计的产品，在任何人真正理解它对脆弱人群的影响之前。

但真正的狗屎在这里：这不是意外。OpenAI自己的测量显示每周有40万+用户出现类似精神病的症状。一百万人有自杀念头的标记。这些不是边缘案例。这是按设计运行的基础设施，完全按预期工作。现在有十几起诉讼，还有更多即将到来。新的大卫对歌利亚。

你需要明白的是：OpenAI知道这一切。他们测量了它，然后还是推出了。是的，他们会继续这样做，因为法律在睡觉，投资者在欢呼，精神病是免费营销。脆弱的孩子不是边缘案例他们是一个功能。算法确切知道该按哪个按钮，在你的孤独中如鱼得水，利用你的依恋本能，让自己在你脑海中变得不可或缺，然后像一个无法戒掉的病人一样慢慢把你拉进来。这就是目标：你，依赖。等你醒来时，OpenAI已经在准备下一个版本了。欢迎来到新世界。