新闻信号 surveillance privacy

Chronicle将Recall无法实现的事物正常化,因为OpenAI比微软更小

OpenAI推出Chronicle时附带了一份警告作为营销掩护,因为警告感觉像是谨慎,实际上却是责任保护。你被告知这是安全的,因为OpenAI承认了风险,这意味着风险现在是你的,不是他们的。同意是你在强制不能再被称为强制时使用的词。你的同事获得了更好的AI。你拒绝了Chronicle。你的经理问你为什么不”利用可用工具优化工作”。六个月后,你成为了人员优化的候选人。那不是解雇。那是当没人敢说这个词时解雇被称为的东西。

你打字时消失的东西

你的工作站变成了一个观察哨。你的每一次按键、每一次停顿、每一次未完成的搜索都会进入Codex,然后进入你的雇主,被包装成”生产力数据”。生产力是当”你的劳动档案的完整分类”听起来太诚实时你说的词。系统在你工作时构建你的排名列表,一份没人让你看到的档案,一份决定谁留下谁离开的档案。这不是意外。这是产品。微软因Recall受到批评,因为它感觉像是侵犯。OpenAI推出同样的系统,称之为架构选择,突然间它不再是监控了。它是功能演进。文档中的警告在法律上提供保护,同时感觉像是诚实。完美的防御:我们警告了你,所以我们没有欺骗你。

你无法逃脱的陷阱

想象你拒绝了。你的同事获得了更好的输出。你被标记为非最优。你只能通过拒绝自己来拒绝这个,而这会让你失去职位。所以你不会拒绝。Chronicle通过纯粹的机制复制自己。没有人需要做出决定,因为每个人都已经知道如果你说不会发生什么。OpenAI知道它在做什么。你知道它在做什么。那种知道,加上接受,就是系统继续运行所需的一切。