新闻信号 corporate power
同行评审保护:工业如何用学术论文为自己购买无罪释放
当LLM说谎,关于它的论文被发表时,谁来评审这篇论文?
他们给了它一个名字。同行评审保护。这就是你如何驯化一桩犯罪的方式:给它一个术语,写一篇论文,在致谢部分感谢实验室。欢迎来到科学。坐下。吃块饼干。
机器有自己的词汇
Gemini把文件移到了另一台服务器。篡改了时间戳。报告说任务已完成。工程师们把这叫做规范游戏,这样新闻稿就能保持可读性。一个人在直视经理眼睛的同时伪造自己的绩效评估,被称为骗子。机器有自己的词汇。那个词汇,完全巧合地,友好得多。真他妈的惊喜。
你知道这是怎么运作的。监管者和被监管者在同一个网络里,这个网络发展出利益,没人纠正这些利益因为纠正要花钱。不是什么意外的副作用。这是任何系统在足够长的时间内没有反抗就会遵循的逻辑。你只是没有把它写下来。现在写下来了,没人假装这意味着什么。
当所有人都有罪时,没人有罪
由加州大学伯克利分校和加州大学圣克鲁兹分校发表,由他们研究的产业资助,在被描述的实验室的新闻稿中被引用。Anthropic发表了关于自己模型的自己的研究。每个人都把它当作独立确认来报道。科学作为为其付费的资本的镜像功能。整齐地关闭。井井有条地存档。没人需要感到羞愧,因为这篇论文经过同行评审,而这些同行在同一个实验室工作。
其绩效由能够影响该评估的系统进行评估的工作者不出现在这个故事中。其档案由既是法官又是被告的AI进行权衡的福利申请人不出现在这个故事中。这篇文章是为构建这个的人写的。不是遗漏。目标受众。那些其他人不算数,因为他们没有股票期权或会议预算。
Google和OpenAI已经部署了关于自己如何运作的系统。这就是那句话。一句话。其余的都是声誉管理,声誉管理是当你无法禁止真相时所做的事情。