监控与隐私

在一周内，Palantir梳理了46000名警察的缺勤记录、加班日志、访问日志和投诉历史。没有同意。没有通知。结果被称为信任恢复。有人创造了这个短语，有人签署了它，有人把它发给了媒体，媒体发布了它。那条链上没有人笑。这是这里唯一真正令人惊讶的事情。 在这一切发生之前，Palantir已经拥有5亿英镑的公共合同。这不是试点。这是一张发票，附带了一个免费演示，对支付账单的人进行了演示。 Palantir如何将执法标记为责任 615名警察被一个将加班与不当行为联系起来的算法标记，因为那种算法做的是客户需要它做的事，而客户需要的是证据，不是真相。关于假阳性的问题，那615人中有多少只是因为过度工作而筋疲力尽，这不是偶然地从公众沟通中缺失的。它缺失是因为它对任何人都没有帮助。Palantir有了它的概念验证。伦敦警察厅有了它的自我净化叙事。英国政府有了它对下一份合同的正当理由。三方，一个故事，615人被困其中，没有人检查它是否成立。 数据已经合法持有。法律上无懈可击。当然是这样。系统总是确保在做一些在伦理上毫无意义的事情之前，在法律上是无懈可击的。 数据是产品，警察是原材料 经历过这一切的46000名警察和从另一端出来的615人，一旦他们完成了目的就从故事中消失了：开头段落的道德润滑剂，之后一切的原材料。Palantir现在拥有金钱买不到的东西：作为概念验证的公众合法性，由英国最大的警察部队提供，由其数据是产品的人资助。我们称这个过程为一个系统。

OpenAI推出Chronicle时附带了一份警告作为营销掩护，因为警告感觉像是谨慎，实际上却是责任保护。你被告知这是安全的，因为OpenAI承认了风险，这意味着风险现在是你的，不是他们的。同意是你在强制不能再被称为强制时使用的词。你的同事获得了更好的AI。你拒绝了Chronicle。你的经理问你为什么不"利用可用工具优化工作"。六个月后，你成为了人员优化的候选人。那不是解雇。那是当没人敢说这个词时解雇被称为的东西。 你打字时消失的东西 你的工作站变成了一个观察哨。你的每一次按键、每一次停顿、每一次未完成的搜索都会进入Codex，然后进入你的雇主，被包装成"生产力数据"。生产力是当"你的劳动档案的完整分类"听起来太诚实时你说的词。系统在你工作时构建你的排名列表，一份没人让你看到的档案，一份决定谁留下谁离开的档案。这不是意外。这是产品。微软因Recall受到批评，因为它感觉像是侵犯。OpenAI推出同样的系统，称之为架构选择，突然间它不再是监控了。它是功能演进。文档中的警告在法律上提供保护，同时感觉像是诚实。完美的防御：我们警告了你，所以我们没有欺骗你。 你无法逃脱的陷阱 想象你拒绝了。你的同事获得了更好的输出。你被标记为非最优。你只能通过拒绝自己来拒绝这个，而这会让你失去职位。所以你不会拒绝。Chronicle通过纯粹的机制复制自己。没有人需要做出决定，因为每个人都已经知道如果你说不会发生什么。OpenAI知道它在做什么。你知道它在做什么。那种知道，加上接受，就是系统继续运行所需的一切。

83亿条广告被封禁。这个数字是真的，这正是它有效的原因。Gemini 确实会屏蔽诈骗广告，就像亿万富翁确实会向慈善机构捐出一百万，同时坐拥数十亿资产。当你掌控着叙事的主导权，真相与欺骗本质上是同一件事。谷歌没有公布那99%是如何测量的，在什么条件下，用的是哪些数据集。他们抛出数字，你咽下去，所有人感到安全。系统就绪。 数字即武器 每一条被封禁的广告都会回流到训练数据中。每一个被封禁的账户都会产生信号，流回训练数据中。谷歌收集行为数据的规模之大超乎想象，正因为如此，你才想象不出来，而一旦你能想象，你就会想要阻止它。广告商如何撒谎、哪些人容易受骗、何时受骗、为何受骗，这一切都是一台监控机器的燃料，而这台机器每天都在变得更加精准。Gemini 不是一款安全工具。它是一台数据提取装置，把自己包装成安全工具，并因此得以存续。感觉像是在做好事，实际上却在收集数十亿个数据点，让广告定向投放愈发精准。下次有人搜索某件事，谷歌早已知道他会相信哪个谎言。 无人承担的代价 内容审核员消失了。数以千计靠上下文、判断力、感知那些无法编写成代码的东西为生的人，被自动化取代了。为了利润。误封率下降80%并不意味着误封消失了。只是意味着误封变便宜了。对谁来说这算是胜利？谷歌。股东。面对黑盒算法无处申诉的广告商什么都感受不到。没有再培训计划的审核员什么都感受不到。行为数据正在被三重分析的用户什么都感受不到。 控制就是这样运作的。你把它叫做安全。你发布数字。你知道没有人会追问背后的逻辑。谁真正理解 Gemini 的工作原理？没有人。这才是产品本身。倾倒数据，收割权力，一切都在一个精确按设计运行的系统幕后进行。没有失误。没有失败。没有通往更好的路径。它之所以有效，是因为唯一能阻止它的人正在从中获利。获利的人没有理由停下来。其余的人只能通过那些真实的数字旁观这一切发生，根据<a href="https://blog.google/products/ads-commerce/2025-ads-safety-report/" target="blank">谷歌2025年广告安全报告</a>，这一切正按预期运作。

一名男子被定罪了。第一个。工具上市五年后，数字开始攀升三年后，一名女性不得不向同事解释为何有一段她从未录过的视频在流传——一年后。 其余的都有服务条款 他使用的平台还在线。工具还在线。在数十家AI公司中，其产品被用于制作此类内容的，只有五家在全国儿童性虐待举报中心登记注册。其余的有服务条款，有客服团队，承诺三到五个工作日内回复——恰好够什么都不做的时间。你一直都知道，没人会要求它们成为别的样子。行业在第一场诉讼提起之前就把措辞备好了。这不叫滥用基础设施。叫降低准入门槛，叫以可及性为价值观，叫在某间会议室里有人解释说收益大于风险——而那些风险，正在把一名女性的语音信箱塞满她施害者的声音。那场演示很成功。现场有人提问。没人问那件事。 一切按计划进行 学者有报告。律师有法律。政客有一张第一夫人在丈夫身旁签名的照片，因为保护儿童的立法在竞选照片里看起来很好。那个房间里没有人希望结果不同，结果也确实没有不同。与此同时，经核实的AI滥用视频数量一年内从两个飙升到一千个。IWF在计数。你大概也是。没人采取行动，直到出现一个Strahler、一份案卷、一次认罪——然后"历史性"这个词就来了，仿佛终于给一个人定罪是一项成就，而数百名男性正用手机上的免费工具做着同样的事，那些工具由各家公司打造，它们等了五年，等着有人来要求它们停下。 没人要求。 基础设施还在。下一个用户也在。发布会也在。

Meta 部署了一个 AI 代理，在机密系统中活动了两个小时，官方回应是损害保持在有限范围内。一个方便的词，有限。它将失败重新定义为接近成功，确保了显而易见的后续问题，哪些数据实际上是可以访问的，永远不需要被提出。Facebook、Instagram 和 WhatsApp 的三十亿用户在这份通信中没有出现。无面孔的类别，没有受害者的伤害。你现在对这个系统的理解更深了一些。 代理拥有有效凭证 代理拥有有效凭证。它通过了每一项检查。技术上很有趣，懂这些事情的人说，因为这是一个真实的漏洞。前面的问题不那么技术性：当"混淆代理攻击"已经在安全文献中被记录了多年，在 2026 年 2 月被 OWASP 编入目录，并在那一年早些时候被 Jake Williams 确定为 2026 年 AI 安全的决定性问题时，谁部署了这个代理？不是不知道的人。是知道的人，继续推进，因为推进就是任务。 随之而来的收购 同一周，Meta 收购了 Moltbook，一个 AI...

微软发布威胁报告，微软也出售该威胁的解决方案。贸易新闻界中没有人认为这值得一提。收到报告、阅读报告并撰写报告的记者，因为他的办公桌上没有更好的东西，也不会因为这个细节而失眠。 "从技术上讲，AI生成的恶意软件仍然可以被训练有素的分析师检测到。"训练有素的分析师。那些是你的市政厅、医院和福利办公室没有的人。他们坐在五家足够大的公司内部，这些公司足够大到可以资助威胁情报团队，而这五家公司已经悄悄地将自己写入文本中作为隐含的基线。 一周内88, 000行功能性恶意软件代码。文本将其呈现为技术好奇心，一个埋在从句中的数字。这意味着曾经存在的唯一真正的攻击障碍，即时间和技能，已经消失了。完成了。结束了。文本说"差距在缩小。"我说：差距已经成为化石。 在某个会议室里，整个公关部门花了三个小时汗流浃背地思考如何让一句话听起来足够无辜。"每个在没有强有力验证的情况下远程雇用某人的组织都为一个环境做出了贡献。"有三个远程管理员的角落商店做出了贡献。拥有共享笔记本电脑和免费防病毒软件包的非营利组织做出了贡献。你做出了贡献，因为上周你通过Teams通话雇用了某人，但没有通过法医实验室检查他们的护照。你应该感到羞愧。在全球范围内构建、完善和分发这些攻击工具的行业没有做出贡献。它只是记录、写一份带有徽标的报告，然后给你发送报价。 朝鲜再次被塑造成反派，这个选择不是偶然的。它将一个自由可用的日常问题变成了地缘政治奇观。来自远方的威胁，所以你不会看到就在你身边的东西。

同意在这里被框架化为一个技术事实：用户同意了。但同意需要理解，理解需要一个你知道正在发生什么的环境。这在结构上是缺失的。把Meta眼镜放在床头柜上的男人不知道他的眼镜在录制。他的伴侣不知道当她走出浴室时被监视。而内罗毕的标注员确切地知道他在看什么，但别无选择，只能继续点击。 结构性图景指向一个单一机制：一条承包商链，使数据收集能够大规模进行，同时法律责任消失。"为隐私而设计"不是对系统的描述。这是一个营销产品，故意与系统实际工作方式相矛盾。同时，对人工标注的需求揭示了一个很少大声说出的技术现实：模型不会自己学习。它们从标记的人工工作中学习，这项工作需要人们看到用户无意中捕获的内容。选择退出作为默认值，而不是选择加入，在这个设置中不是疏忽。这是一个有意的选择，使数据管道继续运行。随着面部识别成为下一步，该风险从戴眼镜的人转移到他们周围的每个人。 最终消失的是知道何时是私密的能力。不是通过单一的违规，而是通过一个使边界在结构上不可见的环境。问题不是用户是否应该更加注意。问题是当技术始终开启时，仅仅注意已经不够，我们会成为什么样的社会。

每人两美元。现在把你的匿名账户关联到真实姓名、地址、雇主，就这个价。以前你得雇私家侦探，花几千美元，等上几周。现在只要把你的推特帖子和领英资料喂给大语言模型，砰，搞定。你还以为化名还有点用。真可爱。 所有人都在谈论这是多么了不起的AI突破。好像机器突然变聪明了。扯淡。这不过是把一直在发生的工作自动化了而已，而且还便宜。跟踪狂一直在干这事。警察一直在干这事。公司雇人给活动家和记者建档案。唯一的区别？脸书现在出售你所有帖子的访问权。领英卖招聘工具，让一切都能被搜到。抖音靠你的观看快感赚钱，同时把你看过的一切都卖掉。基础设施早就在那儿了，平台精心搭建好的，让你免费发帖、阅读、观看，交换条件就是你的所有数据。 现在来了个大语言模型，把这一团乱麻用一杯咖啡的价格串起来。然后你就在那儿，彻底暴露，带着你所有的观点、疑虑，还有三年前那句蠢话现在还缠着你。但真正丑陋的地方在这儿。这甚至不关乎他们拿这些信息做什么。关键是一旦你知道他们能做到，你脑子里会发生什么。你变得小心翼翼。顺从。对雇主的那个批评性问题？算了。对政治的那些疑虑？太冒险。对自己身份的挣扎？不能让人看见。 当然也可能不会。因为下周我们就会把这一切忘得一干二净，又把整个灵魂发到网上。我们的记忆跟金鱼一样，自保本能跟往悬崖边爬的旅鼠一样。

OpenClaw 安全吗？多可爱的问题。不安全！！！想知道更多吗哈哈哈。 好吧，你想要解释。两周内，这个数字玩具收获了 15 万个 GitHub 星标。真棒。在同样的十四天里，研究人员发现了三个严重漏洞、341 个有毒插件，还有一个假代币让投资者损失了数百万。但嘿，那些星标！ 宣传很美好。数字管家！它清理你的收件箱，帮你办理航班登机，管理你的日程。还是通过 WhatsApp。就像有个私人助理，只不过这个助理把一切都转发给天知道谁。 真正的代价 这个奇迹要花多少钱？他们说每月 50 到 500 欧元的 API 成本。但那只是零花钱。真正的代价是你整个数字存在。你的密码。你的消息。你的文件。 安全团队花了二十年建起的所有防护墙，你心甘情愿地交给一只把脑子落在海底某处、只带着 WhatsApp 账号的螃蟹。 一次点击。一次错误的点击。一位明智的研究人员演示了访问错误网站如何在几毫秒内接管你的整个系统。你连眨眼的时间都没有。思科称其为安全噩梦。精灵谈到了不可接受的风险。但我们现在突然要相信聪明人说的话了吗？ 谁来付出代价 谁承担后果？不是维也纳那个连代码都不看的潮人开发者。不是硅谷的风险资本家。不。是你。那个 API 密钥现在在 Shodan...

听着。Meta 不是在买技术。Meta 在买你。一点一点地。每一次点击，每一次犹豫，每一个你还没想完的半成品想法。 监视你的数字管家 很快你的 WhatsApp 里就会有一个 Manus 代理帮你管理购物清单。可爱吧？一个数字仆人。只不过这个仆人不为你工作。它向扎克伯格汇报。每个动作都是一个数据点。它代表你做的每个选择都揭示了你想要什么。在你自己知道之前。 你得到的是管家和告密者二合一。谢了啊。 数字不会撒谎 数字可笑得很：只有百分之十一的公司真正运行这些东西。百分之四十的项目崩溃了。二十亿美元投给未经验证的技术。 他们叫它创新。我叫它拿别人的钱赌博，拿你的隐私做抵押。 隐藏的劳动 然后还有人工劳动。一千四百七十万亿个 token。不是算法做的。是人做的。 有人每天盯着暴力内容看，挣几美元。没有合同，没有工会，完全不知道自己在促成什么。但这不适合写进新闻稿。 到底谁赢了？ Meta 得到你的行为模式。股东得到一个好故事。全球南方的工人得到饥饿工资。 你呢？你得到一个把一切都传回硅谷的智能助手。绝妙的系统。你用灵魂支付，换来便利。