有一种说法：二十世纪资本主义「赢」过苏联式社会主义，不是因为更道德，而是因为 信息处理架构 不同。Yuval Harari 在 Homo Deus 第十一章把市场与计划经济重述为两种 data-processing system——资本主义用 分布式 处理（无数生产者、消费者、价格节点各自决策），共产主义用 中央集中 处理（信息汇入莫斯科，一人拍板）。Hayek 更早说过：知识分散在无数局部，价格是把它们缝起来的信号。在 技术加速变化 的条件下，分布式纠错往往比中央计划更能适应——冷战结局常被讲成这个故事。
读到这里，我自然想问下一步：如果我们有更强的 compute、更短的 sense→feedback 延迟——更好的传感器、更快的汇总、AI 辅助建模——社会制度的「信息瓶颈」会不会根本改观？ 科层传话、年报滞后、层层瞒报，有多少是 算力与带宽不够 的旧约束，而不是治理的永恒定律？
Harari 把这种思路推到极致，提出 Dataism（数据主义）：宇宙是数据流，有机体是生化算法，最高善是 最大化数据的流通与处理效率——人、公司、国家都只是芯片。政治后果他也说得很直白：民主相对独裁的优势，在于更多节点参与纠错；但若 AI 让中央处理器比分布式网络 更快更准，天平可能倒过来。Dataism 在此是 一种新宗教：流通本身神圣，人的体验可以牺牲。
本文要的不是这个。 我要借 Harari 的 机制直觉（社会 = 信息系统；瓶颈在速度、分布、延迟），拒绝他的 终点（数据神圣化、听算法的）。
自我纠错：我们其实已经有，只是太慢
「自我纠错」不是新发明。选举、科学共同体、宪法修正案、市场亏损信号、司法上诉——都是同一种结构：Sense → Act → 发现错了 → Update。Harari 和 Popper 都强调过：健康制度不是从不犯错，而是 能承认错误并改。
我想追问的是 meta 层：不仅政策参数能改，连「谁有权改、error 怎么算、什么指标算数」也能改——hyperparameter 坐在 feedback 里，而不是写死在革命宪章里。控制论里这叫 nested loop：快 loop 调税率，慢 loop 调税制本身，宪法 loop 锁「什么永远不能优化掉」。
这不是「让算法替人做价值判断」。是 用更好的 sensing 和更低的延迟，让已有的民主/科学/审议 loop 真的跑得起来——接上 real life，而不是接上汇报材料。
反蓝图：为什么 utopia 文献说「不能有一张终局平面图」
这个问题并不新鲜。研究「好社会长什么样」的人，大多得到一个 悲观共识：不能有一张焊死的蓝图。
- Karl Popper：反对历史终局论——声称掌握了「社会最终形态」并据此镇压异议，是二十世纪灾难的配方之一。
- James Scott（Seeing Like a State）：国家要把复杂世界 可读化（legible） 才能治理——简化成指标、网格、单一作物；代价是摧毁地方默会知识（mētis），边缘的人买单。
- Elinor Ostrom：大规模公共资源往往 多中心 治理比单一权威更有效——没有一个中心能掌握全部 local knowledge。
- 不完全合同（Hart & Moore）：任何规则都漏风，总有余地留给「谁说了算」——制度永远 incomplete。
这些批评指向同一件事，用 Goodhart’s law 说就是：设 G = 真目标，M = 代理指标。蓝图式治理 = 选定一组 M，全速 optimize，并假定 M 不会烂掉。但 M 会烂——选高 M 会选中 noise（regressional），推到分布外会失效（extremal），刷指标不动真目标（causal），对手会 gaming（adversarial）。Manheim & Garrabrant (2018) 把这拆成四种机制；后文会展开。
所以 utopia 文献的教训听起来很彻底：别做蓝图。 固定终局 + 单一 KPI + 不可撤换 = Scott 式暴力 + Goodhart 全家桶。
本文的问题：信息速度 + 自我纠错，够不够？
那我的问题变成：
在 AI 时代，若 sense/process 层足够强（更好的 compute、更 distributed 的采集、更短的延迟），再叠一套 meta 自我纠错架构（nested feedback、可改 hyperparameter、宪法锁底线）——能不能得到一种「有宪法、无终局」的 adaptive 社会设计？还是说反蓝图文献已经判了死刑？
我把 Harari 式 Dataism 降级为方法：只做 S4（情报、传感、建模），不做 S5（价值、error 定义、否决权）。自我纠错提供 架构；更强的信息速度提供 让 loop 接地的可能——不是保证成功，是改变 以前算不出来的 tradeoff。
下面用控制论把这套东西写具体：error 怎么算、Beer VSM 怎么搭、哪里会死。
社会作为一个整体：Sense → Act → Feedback → Update
控制论里，可行系统做四件事：
- Sense —— 采集状态（经济、健康、环境、主观福祉……）
- Act —— 通过制度/政策/action 改变状态
- Feedback —— 比较「发生了什么」和「 intended 状态」
- Update —— 改参数；必要时改 改参数的规则（hyperparameter）
嵌套两层：
| 环路 | 改什么 | 时间尺度 | 例子 |
|---|---|---|---|
| 快 loop | 制度 参数 | 月–季 | 税率、补贴强度、服务配额 |
| 慢 loop | Hyperparameter | 年–代 | 谁有权改参数、error 怎么聚合、少数否决门槛 |
| 宪法 loop | S5 价值边界 | 很慢 | 什么永远不能优化（权利、生态底线） |
关键： 不是所有层用同一个 feedback 增益。全速改 hyperparameter = 振荡；永远不改 = 僵化。Beer 的 VSM 核心就是这个 时间尺度分层。
VSM：架构清单（不是口号）
Stafford Beer 的 VSM（Viable System Model） 是最接近这套想法的组织语言。原典见 Brain of the Firm (1972)；历史案例见 Eden Medina, Cybernetic Revolutionaries（智利 Cybersyn, 1971–73）。
五系统，递归——每个基层单元内部再嵌一套：
| 系统 | 功能 |
|---|---|
| S1 运营 | 直接接触环境，创造价值；必须保留多样性 |
| S2 协调 | 单元之间防振荡；协调 ≠ 指挥 |
| S3 控制 | 当期资源整合；S3* = 审计旁路，防中层瞒报 |
| S4 情报 | 扫描外部、建模、实时 data pipeline —— Dataism 主战场 |
| S5 政策 | 「我们是谁」、宪法级规则；不亲自跑日常优化 |
Ashby 必要多样性定律： 调控者复杂度必须 ≥ 环境复杂度。压扁基层多样性换「效率」，上层必然失控——无论算力多大。
Algedonic 痛觉通道： 真实伤害可以 跳过官僚层级 直达政策层。不是 dashboard 上又一根线，是 override。
和苏联 OGAS / 单一 KPI 国家的区别：Beer 要的是 生存能力（adaptation），不是一次算出的全国最优解。Medina 的教训：Cybersyn 信息流部分成功，完整 VSM 没落地，政治杀死了它——技术架构不够，权力结构才是 crux。
Error 怎么算：utility + real life
Feedback 需要 error signal。我的提议：
Error = 每个人的 experienced utility / real life 与 policy intent 之间的偏差，经 explicit 规则聚合。
拆开：
局部（S1）： 每个社区/个体有自己的 error——主观福祉、能力集（Sen：能做什么、成为什么）、客观指标（收入、健康、污染暴露……）。Real life 必须进来，不能只有点击流。
聚合（S3/S5）： 多 error 合成系统级 signal。这里 没有中性数学——加总方式（sum、max-min、能力下限）本身就是政治选择，属于 慢 loop / S5，不能偷偷塞进 loss function。
Override（S3* / algedonic）： 若某群体 error 爆表（例如能力集崩溃、系统性歧视），不能被 majority utility 平均掉——信号直达政策层，触发慢 loop 审查。
这和 Harari「算法比你更懂你所以听算法的」相反：error 的定义权 必须可争论、可改、可否决，data 只是让争论基于事实而不是基于宣传。
Dataism 在此 = 方法，不是宗教
上文已说：借 Harari 的 信息架构直觉，拒绝 数据神圣化。在这套设计里，Dataism 只做 S4：
- 更 distributed 的 sensing（不只是国家统计局的年报）
- 更短延迟的 feedback（不必等选举周期才知道政策砸了）
- 更 bottom-up 的处理（减少科层滤波、自强化叙事）
- 目标：增强 contested feedback，不是替 contest 做结论
Explicit 不做的：
- 不把「数据流/处理量」当最高善（那是 Harari 版 dataism）
- 不让单一 optimizer 同时占 S3（运营）和 S5（价值）——今天很多「AI 治理平台」正在犯这个错
- 不用 real-time 优化 替代 审议——审议慢，但决定 什么算 error
类比：
- 坏版本： 推荐算法式国家——在优化停留时长，叫自己 self-correcting
- 我要的版本： 民主 + 科学 + 能力审计，但 传感器升级了、延迟降低了、瞒报更难了
官僚制：曾经必要，现在成了瓶颈
Harari（Sapiens / Nexus）对官僚制有一句很准的定义：文字让人类社会变成算法——每个人只是巨大流程里的一小步，真正做决定的往往是「系统」而不是某个具体的人。医院前台、护士、医生各执行规程；换一个人来，只要还按同一套表格走，结果差不多。这是 规模化协作 的奇迹：没有几千个识字官僚，就没有金字塔、没有 NHS、没有现代国家。
为什么曾经必要？ 人脑记不住帝国规模的税赋、地块、库存。写作 + 货币把互不相识的陌生人缝成网络；档案定义了 pharaoh、欧盟、美元的「身份与权力」。Sousa Mendes 用橡皮图章救了三万人——文书的神圣性有时比官员本人更可靠。
为什么现在成了问题？ 同一套结构在信息向上汇总时系统性失真：
- 每层都有激励改写上报——大跃进式「层层加零」；基层 error 到顶层变成胜利公报。
- 纸面现实压过田野（Scott / Harari）：林业局抽屉里的分类 ≠ 森林；KPI ≠ 生活。
- 延迟：等 Mary 发烧、预约、看医生、汇总到 NHS 总部，流行病早已扩散——Harari 用 Google 读邮件早预警作对比，但那是 监控换速度 的坏交易。
- 中层滤波：Beer 的 S3* 就是为「审计旁路」而设——正常层级会 消化 坏消息。
官僚制解决的是 协调规模；没解决的是 真相对权力说真话的速度。在工业时代，这是可接受的 tradeoff。在 AI 可以毫秒级处理、却同样毫秒级误导的时代，只加速纸面流程（电子政务 + 更多报表）不够。
Dataism-as-method 能做什么、不能做什么：
| 能做的 | 不能做的 |
|---|---|
| 更 distributed 的 sensing，缩短 sense→aggregate 延迟 | 替 S5 决定什么算 error |
| S3* 式旁路：基层/algedonic 信号直达政策层 | 消灭官僚——仍要 S2 协调、仍要规程 |
| 多源交叉验证，降低单层瞒报空间 | 保证「更多数据 = 更真」——信息也可服务于 propaganda（Nexus） |
要点：不是废掉官僚制，而是不让科层垄断 sense 通道。Harari 的 Google 流感例子说明问题真实；解法是 参与式、可审计的数据基础设施，不是把全部生活数据交给单一平台 optimizer。
Goodhart 与反蓝图：机制展开
前文把 utopia 文献的「反蓝图」和 Goodhart 连起来了。这里把四种 failure mode 写清楚，并说明 adaptive 架构 和 蓝图 差在哪。
| 类型 | 机制 | 治理/蓝图语境 |
|---|---|---|
| Regressional | M = G + noise；选 M 高的点 = 也选了 noise 高的点 | 任何 imperfect KPI 都不可避免；单指标蓝图必死 |
| Extremal | proxy 被推到训练分布外，旧相关失效 | 政策 extrapolate 到从未试过的生活 regime（Scott 式 legibility 暴力） |
| Causal | M 与 G 相关但非因果；intervene on M 不动 G | 刷榜、改分、Campbell’s law；大跃进 直接改 M |
| Adversarial | 有 agent 知道你在 optimize M，主动 gaming | 科层瞒报、平台 engagement hack、alignment faking |
反蓝图在这套语言里是什么意思？
- 蓝图 = 固定 G 的 operationalization（一个或一组 M），然后全速 optimize——四种 Goodhart 全都会来。
- 反蓝图 ≠ 不测量、不规划；而是 nested loop 里 M 本身是可改的：
- 快 loop 调参数，但 M 有 expiry date；
- 慢 loop 换 proxy、换聚合规则、换谁有权定义 error；
- 宪法 loop 锁死 G 的不可压缩部分（权利、能力下限、ecological floor）——这些 不进 loss function。
Scott 说的「国家简化」≈ Extremal + Causal：把复杂生活压成可报表变量再 optimize。Popper 说的「历史终局」≈ 把某一版 M 神圣化，关掉慢 loop。Ostrom 的多中心 ≈ 不让单一 M 垄断——多个 overlapping feedback，降低 Adversarial surface。
所以： Goodhart 不是「别用指标」；是 任何固定 blueprint 在数学上都会失败。可行的是 meta 架构：优化的是「如何发现 M 已失效并换 M」，不是「找到正确的 M 然后焊死」。
这套架构 若做对，和 Popper/Scott 兼容：
- 无终局平面图 —— 只有 nested loop 的 宪法
- Sacrifice 不消失 —— 但变成 可争论、可回滚、可 algedonic override
- Incomplete contract 不消失 —— residual control 落在 S5 + 聚合规则 + 数据所有权
若做错，就是另一种蓝图：全国一个 loss function，hyperparameter 名义上能改、实际上被 engagement 锁死——Adversarial Goodhart 在国家级 scale 爆炸；那就是 friction path，不是 flourishing。
三个 crux
1. Error 谁定？
Aggregate utility 容易；保留 contest 难。没有 syntegration / 审议 / 少数 veto，你会得到高速收敛的优化器，不是民主。
2. 什么进 data？
Real life 里大量东西难 datafy（照护、尊严、地方默会知识）。只优化可见变量 = Scott 式 legibility 暴力 2.0。需要 parallel channel：不在 KPI 里的价值怎么 veto KPI？
3. 时间尺度有没有真的分开？
快 loop 改参数、慢 loop 改聚合规则、宪法 loop 锁底线。三层绑在一个 RL 里 = jittery 或 capture。
结语
核心问题：
AI 时代能否部署一套 Beer/Ostrom 式的 nested feedback——Dataism 负责 sense，民主负责 define error，宪法负责锁底线？
没有保证。默认路径仍是 friction：平台优化、监控国家、ghost GDP。若 flourishing 会发生，更可能走这条控制论民主路线，而不是 Fresco 式工程乌托邦或 Harari 式数据宗教。
值得追踪的 partial deploy：Cybersyn 谱系、数字民主实验（如 vTaiwan）、Sen 式能力审计框架。
Open questions
1. 每个人要 expose 多少 data？这和被监视有什么区别？怎么保证不被 harm？
这是全文最硬的 open question。上文描述的 nested feedback 确实需要 error signal——没有 sensing，loop 就是盲的。但「需要 data」不等于「需要全景监控」。至少要分清三层：
（a）为让这套架构跑起来，每人大概要暴露什么？
不是「把生活全部上传」。按功能粗分：
| 层级 | 大概需要什么 | 例子 |
|---|---|---|
| 聚合层 | 匿名/群体统计即可 | 区域发病率、就业结构、污染暴露分布——不一定可追溯到个人 |
| 参与层 | 自愿、有边界的自我报告 | 能力审计（Sen 式）、 deliberative poll、社区评议——你知道在填什么、为谁填 |
| 个体层 | 仅当 local error 要进系统时才需要 | 福利申诉、医疗记录（经同意）、algedonic override——「我正在被伤害」的信号 |
很多 real-life error 不必靠持续行为追踪：照护负担、尊严受损、地方默会知识被政策碾过——这些往往要靠 审议、访谈、代表、否决，不是更多摄像头。若架构逼每个人 7×24 expose 才能算「公民」，那已经不是 feedback democracy，是 surveillance with extra steps。
（b）这和「被监视」差在哪？
差别不在「有没有数据」，在 权力结构 + 用途 + 对称性：
| 监视（surveillance） | 本文说的 sensing | |
|---|---|---|
| 目的 | 预测、控制、惩罚、操纵 | 发现 policy error、触发纠错 |
| 谁看谁 | 不对称——国家/平台看你，你看不清它 | 应尽量 可审计的对称：谁 query 了数据、为了什么决策，有 log |
| 粒度 | 倾向越多越好 | 最小必要（data minimization）；能聚合就不个体化 |
| 留存 | 永久档案，日后可用 | 目的限定 + 留存上限；纠错完即删（理想型） |
| 退出 | 往往没有真正的 opt-out | 某些层可拒绝 expose，仍保留政治声音与 algedonic 申诉权 |
Harari 的 Google 流感例子 = 用 未经同意的个体信号 换 latency——说明问题真实，但 不是 我要的默认解。Zuboff 的监控资本主义更进一步：data 换的是 操纵权，不是 contest。
（c）怎么保证不被 harm？
没有技术保证，只有 制度叠层——恰好属于 S5 + 慢 loop，不能交给 S4 optimizer 静默决定：
- 宪法级禁止：某些数据 不得 采集或不得用于某些决策（基因、性取向、政治倾向用于资源分配等）——不是 policy 参数，是 floor。
- 用途绑定（purpose limitation）：为流行病监测采的数据，不得转交执法/保险定价——违反即违法，不是 ToS 废话。
- 查询审计 + 集体治理：谁、何时、因何 query 了个人层数据，可申诉、可诉讼；数据基础设施尽量 社区/公共信托，而非单一商业平台。
- 分层同意：聚合层默认可做；个体层 opt-in + 可撤回；不搞「不交出数据就没有福利」的勒索。
- Parallel channel：不在 KPI 里的价值（尊严、照护、宗教良心）保留 非数据否决权——对应 crux #2。
- 伤害定义写进 error：Sen 式能力剥夺、系统性歧视若发生，algedonic 通道直达——不必等用户先被全量画像才承认 harm。
诚实说：expose 越多，Adversarial Goodhart 和 repression 面越大。所以「足够好的信息速度」不等于「每人尽可能透明」，而是 在最小 expose 下仍能让 error 到达慢 loop。具体最小量是多少、哪些领域必须先聚合再个体化——我没有答案，这应该是 utopia 设计里 最先被实验 的问题，而不是部署完后才问。
2. 我们需要 AI，但需要多强？非要 AGI/ASI 才撑得起这套 infra 吗？
显然需要 某种 AI/自动化来做 S4：异常检测、多源融合、自然语言摘要给审议者、模拟 policy counterfactual。但 未必需要 AGI：
- Cybersyn 用 1970 年代硬件 + 运筹模型，已经部分证明 sense→dashboard→human decide 可跑。
- 今日 narrow AI + 良好 data plumbing，可能已够 降低 bureaucratic latency——若 S5 仍在人手里。
AGI/ASI 改变的是 Adversarial Goodhart 的上限：对手更聪明，gaming 更难检测；同时 temptation 更大——「既然模型更懂，不如把 S5 也交给它」。所以问题不是「要不要 AI infra」，而是 多强的 AI 被允许进入哪一层 loop。我的直觉：S4 可以很强；S5 不能外包——但直觉需要 case study，不是定理。
3. 若 AI 比你自己更「懂」你，人文主义是否必然破灭？要 embrace posthumanism 吗？
Harari 在 Homo Deus 里的威胁是真实的：自由意志作为 事实主张 在 neuroscience 压力下站不住；若 「听内心的声音」 输给 「听算法的预测」，自由主义认识论确实崩。
但有三条分叉，不是只有「人文主义 vs posthumanism」：
| 路径 | 内容 |
|---|---|
| Harari 式 Dataism | 体验降级为 chip；流通/处理神圣 → posthumanism as religion |
| 算法家长制 | 保留人的法律地位，但 default 听 AI → 人文主义名存实亡 |
| 本文试图的第三路 | AI 增强 sense；error 与 S5 仍属可 contest 的政治主体；人不是最准的传感器，但仍是 价值与否决权的来源 |
这是不是稳定均衡？不知道。可能 posthumanism 是 attractor——尤其若 ASI 在 S4 同时吞掉 S3/S5。但若 flourishing 还有路，我猜是第三路：posthuman in capability, humanist in constitution——增强能力，不交出 谁有权定义好生活 的最后否决。
这三个问题彼此纠缠：data 怎么 share 决定 surveillance 形态；AI 多强决定 adversarial 压力；AI 是否「更懂」决定人文主义是否只剩修辞。本文的架构是 让这三个问题留在慢 loop 里可辩论，而不是被某个 optimizer 静默结案。
延伸阅读： Beer, Brain of the Firm (1972) · Medina, Cybernetic Revolutionaries (2011) · Hart & Moore, incomplete contracts · Sen, Development as Freedom (1999) · Ostrom, Governing the Commons (1990) · Manheim & Garrabrant, Goodhart taxonomy (2018) · Harari, Homo Deus Ch.11 · Harari, Nexus (2024)