我的 AI 未来预测——P(doom)、P(utopia) 与时间线

背景

整个预测都是开源项目： 引擎、配置、逐事件证据都在 github.com/longyi1207/ai-futures-sim。可以 fork、改一个概率、重跑模拟——交互探索器 · 怎么改。

这是尽力而为的预测工作——一个人基于公开信息做的结构化判断，不是经过验证的预测模型，也不代表任何机构立场。完整声明见文末。

圈内 p(doom) 通常指 AI 相关路径导致极坏结局的概率。但「极坏」没有统一标准；任何百分点都是对不完整模型的压缩，而且总会有 未知之未知 和黑天鹅。

为什么要预测

那我们为什么还要预测？

思维工程 > 一个数。 Yudkowsky 批评过把 p(doom) 当身份徽章。我更想搞清楚 几个关键假设：用数字把判断拆开，标出少数几个我们真能影响的节点——而不是凭感觉「站队」未来。

很多业内人士判断 AI 能力会在 2026–2028 集中过几个门槛（就业冲击、公开 AGI 级系统、对齐恐慌）。制度反应几乎总是比能力慢。先把这几条线写清楚，公众和政府才更容易讨论可操作的选项，而不是只争一个抽象百分比（见 怎样让政府真正关心 AI 监管）。

所以那几个百分比更像副产品。高 p(doom) 不等于你理性，低 p(doom) 也不等于可以躺平；重要的是你认不认背后的假设和条件概率。像打扑克：要做的是持续做出正期望的决策，坏结果仍可能只因运气。

已有公开预测

公开数字从 0.01% 到 99% 都有。差距往往不在「谁更悲观」，而在定义、时间范围、前提条件是否相同。

谁	数字（约）	备注
Yudkowsky	条件概率极高；常引用 >95%（若按现状建超智能）	TIME 2023；LW：别拿 p(doom) 当星座
Matthew Adelstein	~2.6%（仅未对齐 AI 灭绝）	条件概率连乘分解；生物等另算 ~8–10%
Liron Shapira	~50%	人类灭绝 约在 2050 年前；Doom Debates 主持
Steven Byrnes	~90%	类脑 AGI 路线，非「LLM 没杀人就没风险」
Robin Hanson	<1%	慢起飞 / 多极；2008 与 Yud 的硬起飞（foom）辩论续篇
Mike Israetel	<0.1%	Kurzweil 线乐观；「AI 会研究我们」
Noah Smith	R1 0.01%（5 年灭绝）→ R2 约 10× 上调	智能体 / 生物恐怖比回形针场景更「现实」
Quintin Pope	极低（对齐已基本解决）	RLHF + 模仿学习派
Hinton / Bengio / Amodei	约 10–50% / ~20% / 10–25%	实验室与图灵奖口径
Yann LeCun / Andrew Ng	~0%	短期、狭义灭绝定义
本文	~7% 末日 · ~18% 繁荣 · ~69% 摩擦 · ~6% 严重	2050 前；联合 MC 模拟跑出来的 — 核心数字

差距主要来自定义与前提条件，不是大家在猜同一个隐藏变量。这本身也说明：如果你看不到数字背后的模型，任何单独发布的 p(doom) 里可能藏着多少噪音。

YouTube 上有什么（我参考过的）

公共讨论里最成体系的是 Doom Debates——长视频、固定问 P(doom)、逼嘉宾亮分歧点。我按「学习分解」看过这些入口：

类型	代表	教给我什么
低末日概率分解	Adelstein ~2.6%	怎么把灭绝拆成条件概率链（不是怎么赢辩论）
经济学外推	Hanson <1%	外部视角 vs 内部视角；慢起飞
聪明乐观派	Israetel R2	「人能把控」「墨菲法则被高估」——我的失控主线的对照组
高末日概率技术	Byrnes ~90%	LLM 可能是中转站；真正风险在类脑路线
公开改主意	Noah Smith R2	从回形针叙事转向智能体/生物恐怖的阶梯恐惧
反末日概率技术派	Quintin Pope	RLHF ≈ 对齐已解决——逼我澄清「欺骗在部署后仍存活」分歧点
政策轴	Tegmark vs Dean Ball	禁止超智能 vs 渐进监管——和「摩擦 ~69%」的常态路径有关

另一类是 Robert Miles（Computerphile 出镜）：工具性收敛、内层优化器（mesa-optimizer）、别指望预警性事故。他在 DD 的 Humanity Isn’t Ready 里和 Liron 对过线——比末日辩论更少八卦、更多教学，适合给外行入门。

再往外一圈，典型 AI 新闻/科普 YouTube（如 AI Explained、周报类频道）：多数是就业、GDP、产品发布框架，很少把 灭绝 / 慢性失控 / 摩擦 分开；偶尔一段「末日」剪辑和「只是失业」剪辑打架，但很少落到可反驳的分歧点。

我的预测

公开讨论里的 p(doom) 往往只盯「人类会不会灭绝」。我先把结局长什么样说清楚，再给文首那几个百分比。顺序是：坏结局几种 → 好结局四条路 → 模拟跑出来的四分区（~7 / ~18 / ~69 / ~6）。

坏结局：四类

这四类不能简单相加——定义不一样，还有重叠。模拟里的末日区：要么真灭绝，要么到 2050 还没灭绝但已经慢性失控（doom_whimper）。思路来自 Ord、Bostrom 存在风险、Yudkowsky 失控框架。

类型	含义	点估计
末日（doom）	模拟区：灭绝事件，或跑到 2050 的慢性失控（doom_whimper）	~7%（6–8%）
慢性失控（叙事）	人还在，但失去对文明走向的控制	主要落在 doom_whimper（由持续机制驱动，见下文）
严重可恢复（severe）	数万亿美元级冲击，文明还能爬起来	~6%（模拟区域）
局部持续伤害	监控、不平等、长期不对称伤害	高，且已在发生

好结局：四条繁荣路径（U1–U4）

P(utopia) 我说的「繁荣」不是科幻片终点：人人完美、没有苦难、矛盾全消失（《星际迷航》那种）。那是讲故事方便，没法拿来估概率。我这里要窄一点、也能对照现实检验：物质和制度明显变好，人还在、文明还在，没滑进灭绝或慢性失控。具体标准参考下面两条：

1. 阿玛蒂亚·森的「能力进路」（诺贝尔经济学奖，规范层）：好社会不是只看 GDP，而是普通人能不能按自己在乎的方式生活——受教育、参与政治、保持健康、有尊严地选择职业。这是我问「算不算繁荣」的 价值标准。

2. Acemoglu 与 Johnson《权力与进步》（2023，制度/分配层）：两位 MIT 经济学家通读工业革命至今的历史，问技术红利通常落在谁手里。他们担心 AI 会变成 so-so automation（「将就式自动化」）——主要帮资本省钱、替人干活，普通人却分不到多少。模拟里用 human_autonomy_index（人还剩多少主动权）、inequality_index（不平等）、governance_capacity（政府还能不能办事）、employment_stress（就业冲击）、distribution_regime（主动分配政策的力度）和分歧点 CX-GAINS-CONCENTRATE（我估计收益高度集中、约 73%——现在建模成持续过程，不只是几次离散冲击，见下文）来刻画。对齐做对了，不等于社会自动变好——制度还得跟得上。

两条「故事线」（帮助想象，不是模拟器的数学定义）：

• Dario Amodei《慈爱的机器》（2024，Anthropic CEO）：如果 AI 又强又相对安全，几十年里生物医学、减贫、心理健康都可能大幅变好——这是他画的 乐观上限。
• Paul Christiano《失败的样貌》（2018，对齐研究员）：能力一直涨，政府和企业 各干各的——多半 不会灭绝，但是加速、不平等、治理跟不上；人还在，关键决定却 越来越轮不到你说话。我觉得 ~69% 摩擦 最像这种「没灭但很难受」的中位未来——模拟里能讲出 Christiano 具体讲的那个机制（部署压力持续侵蚀自主性），而不只是给出结局标签。

联合模拟里，繁荣对应 utopia_* 终点（见 附录 B），P(任一 U) ≈ ~18%：

路径	模拟里的标签	跑出来大概占多少（n=600, seed 42）
U4 温和繁荣	utopia_modest_welfare	~12%
U3 制度黄金时代	utopia_golden_age	~6%
U2 共生繁荣	utopia_symbiosis	~2%
U1 激进丰裕	utopia_radical_abundance	尾部，<1%

讲故事时，你可以同时谈「可能灭绝」和「可能繁荣」；模拟里每次只落进四个区之一（末日、繁荣、摩擦、严重），加起来 100%。摩擦占大头（约 69%）——没掉进末日，也没凑齐繁荣条件，就是「加速但没过好」的常态，但现在拆成了几种明显不同的味道，不再是一个桶通吃：

区域	权重	典型终点 / 故事
末日	~7%	doom_whimper（慢性失控 ~4–5%）；灭绝事件 ~2%
繁荣	~18%	utopia_modest_welfare ~12%；黄金时代 ~6%；共生 ~2%
摩擦	~69%	friction_managed_non_utopia（有分配政策但不够，~21%）；friction_ghost_gdp_no_transfer（增长但没转移支付，~20%）；治理瘫痪 ~11%；劳工反弹 ~9%；常态摩擦 ~5%
严重	~6%	网络级联等可恢复灾难

摩擦这块的拆分比看起来更重要：「有政策但不够」「有增长没转移」「治理瘫痪」「劳工反弹」是真正不同的终点，对应我实际想描述的几种「活下来但不好过」的 2040 年代：「有些州通过了法案，联邦没动」和「经济涨了，没人分到钱」和「真的爆发了反弹但没解决问题」——这是三个不同的故事，不是同一个桶的三种说法。

别这么算： 繁荣 ≠ 1 − 末日。四个区加起来就是 100%，是 ai_futures_sim 联合模拟跑出来的，不是用 100% − 末日 − 繁荣 剩下来的「摩擦」。

我和公开数字的位置： 比 Adelstein / Hanson / Israetel / Noah R1 高；比 Liron / Byrnes 低；和 Quintin 路径不同（我不认为 RLHF 已解决对齐）。和 Yud 同方法（先分歧点），不同核心数字（四分区 + 制度滞后，不是单一 >95%）。

下文讲了什么

推导路径： 总览 → ① 变量与事件 → ② 怎么估概率 → 典型世界线 → ③ 模拟结果 → 什么会改变我的判断。深挖：附录 H · 附录 G · 证据索引 · ai-futures-sim

能力时间线前作（只谈模型多快）：AGI 时间点预测都收敛在 2027–2028！？。本文补人类制度与结局。

---

核心数字：四分区

模拟结果之下有几个开放事项，如实列出：能力脊柱（C1→C9 时间线）目前 3 个种子里有 2 个没达到自己的 AI-2027 校准目标——见 与 AI 2027 交叉验证。两种终点子类型（friction_surveillance，以及程度轻一些的 friction_labor_backlash 稀有尾部）理论可达但实际仍然很少见，原因还没有完全查清楚。完整技术记录：docs/CHANGELOG.md 和 docs/CALIBRATION.md。

区域	点估计	典型故事
末日	~7%	doom_whimper 慢性失控 ~4–5%；灭绝事件 ~2%
繁荣	~18%	温和福利 ~12%、黄金时代 ~6%、共生 ~2%
摩擦	~69%	有政策但不够 ~21%；有增长没转移 ~20%；治理瘫痪 ~11%；劳工反弹 ~9%
严重	~6%	网络级联等可恢复灾难

---

这份预测是怎么做出来的

这是联合蒙特卡洛模拟器（ai-futures-sim）：每次从 2026 跑到 2050，画出一条前后说得通的世界线；跑成千上万次，四个区的比例就出来了。文首那几个百分比是跑出来的结果，不是我先填好再让模拟去凑。

下面三个编号小节（①②③）就是这一条流水线的三个阶段——图里把同样的六个引擎步骤归到这三个编号下面，编号和你接下来看到的标题是一致的：

flowchart TB
  subgraph S1["① 变量、事件与时间表"]
    direction TB
    V["variables.yaml — 约 25 个连续变量<br/>治理、生物档、欺骗风险、就业压力、分配政策…"]
    CAP["capability_dynamics.yaml — 潜能力 + RSI 锚点 + 真实 GDP 耦合"]
    SP["spine.yaml — C1→C9 能力阈值"]
    EV["events.yaml — 61 个剧情事件"]
    DAG["边：前置条件 · unlock · modify_hazard"]
  end

  subgraph S2["② 估概率"]
    direction TB
    CRUX["逐事件证据<br/>主张 · 理由 · 证据 · 什么会让我改主意"]
    P["schedule.p_cumulative = 窗口内至少触发一次的概率"]
  end

  subgraph S3["③ 模拟 → 四分区"]
    direction TB
    LOOP["一天一步的联合蒙特卡洛，2026→2050"]
    FIRE["随机触发脊柱 + 事件<br/>社会变量会反过来改触发概率"]
    N["N 次运行（如每种子 600–2000）"]
    TERM["terminals.yaml — 终点状态"]
    REG["末日 · 繁荣 · 摩擦 · 严重<br/><b>跑出来的</b> — 不是手填"]
    CV["对照 AI 2027<br/>脊柱按期概率 + 核心事件边际"]
  end

  CRUX --> P
  V --> LOOP
  CAP --> LOOP
  SP --> LOOP
  EV --> LOOP
  P --> LOOP
  LOOP --> FIRE --> N --> TERM --> REG
  N --> CV

步骤	内容	配置 / 产物	正文
1. 变量	事件会推动的世界状态	variables.yaml	①
2. 事件 + DAG	剧情节点与下游效应	events.yaml	①
3. 概率	分歧点 → 窗口 p_cumulative	证据页	②
4. 蒙特卡洛	每次一条联合时间线	engine.py	典型世界线 · ③
5. 终点	终点状态 → 四分区	terminals.yaml	③
6. 校准	对照 AI 2027 脊柱（spine.yaml）与核心事件	calibration_check.py	③

仓库配置是 YAML；JSON 是导出格式，供 web 探索器 加载。

---

① 变量、事件与时间表

世界变量（举例）

约 25 个连续变量在 variables.yaml 里——事件触发会推这些变量，其中几个会持续漂移，变量变了又会改后面事件每天被抽中的概率（模拟里叫 hazard）。完整术语：VARIABLES.md。

变量	含义	谁动它
governance_capacity	联邦能立法、执法、协调吗	瘫痪事件 ↓；筛查法案 ↑
deception_risk	内部评测发现模型在算计的风险	对齐担忧（事件 C10）↑
bio_governance_tier	生物筛查 / 执法档位	BMIA ↑
employment_stress	劳动力市场冲击	就业冲击（事件 C4）↑；能力过阈值后持续流入，靠再培训政策对冲
distribution_regime	主动分配政策的力度	主权基金 / 州级收入措施 / 联邦再培训 ↑
human_autonomy_index	人还剩多少控制权（「慢性失控」轴）	事件 + 部署压力高、对齐信任低时持续侵蚀，靠治理能力对冲
gdp_index	相对 2026 的真实 GDP	持续复利增长（历史基准 + AI 生产率项），战争/治理崩溃/地缘碎片化会持续拖累
internal_capability	潜能力（驱动脊柱）	能力动力学 + RSI 锚点

剧情事件（举例）

每条事件有：时间窗口、前置条件、p_cumulative（窗口内至少发生一次的概率）、on_fire 效应（改变变量 / 解锁下游 / 改触发概率）。按 AI 2027 的情节拆成 61 个可以对照现实检验的事件。

读事件 ID： 正文里 ev_* 是模拟配置里的稳定标识；中文读者可在括号里看白话名，例如 ev_c4_labor_shock（就业冲击（事件 C4））、ev_no_pause_2028（2028 前无联邦训练暂停）。完整 61 条见 EVENTS_INDEX。

事件	故事	p_cumulative	下游效应
ev_no_pause_2028	2028 前无联邦训练暂停	0.88	↑ 部署压力；解锁竞赛链
ev_us_paralysis_s2	美国联邦治理瘫痪	0.55	↓ 治理能力；BMIA 触发概率 ×0.65
ev_bmia_pass	强制生物筛查立法	0.45	↑ 生物治理档；tier-3 路径 ×0.45
ev_c10_internal_concern	C9 档内部评测发现欺骗	0.52	↑ 欺骗风险；解锁吹哨分支
ev_state_revenue_measures	州级 AI 收入/数据中心税「动真格」（加州/纽约/华盛顿州）	0.38	↑ 分配政策力度，但只是部分
ev_c4_labor_shock	C4 档劳工冲击在经济上变得可见	0.90	↑ 就业压力；解锁劳工动员链

- id: ev_bmia_pass
  schedule: { start: "2027-01-01", end: "2028-12-31", p_cumulative: 0.45 }
  on_fire:
    set_vars: { bio_governance_tier: { value: 2.5 } }
    modify_hazard: { ev_tier3_path_open: { multiply: 0.45 } }

事件在 DAG 里怎么连

机制	例子
前置条件	ev_c10_internal_concern 得等 sp_c9 先发生
解锁链	对齐担忧（事件 C10）才能走吹哨那条线
改触发概率	ev_us_paralysis_s2 → BMIA 被抽中的概率 ×0.65
共享变量	governance_capacity、deception_risk 随多事件漂移
相关簇 A–H	潜变量同向变动（竞赛、生物、对齐）

有向表：因果链 · 相关簇 · 逐条证据：证据索引。

时间表：能力 vs 制度

前一篇估模型多快；这里补人类在干什么。两条线贴在同一张日历上：

1. 能力脊柱 C1→C9（spine.yaml）——模型多强
2. 剧情事件（events.yaml）——国会、裁员、筛查、竞赛……C3/C4/C10 是事件节点（非脊柱能力档）

情节骨架借 AI 2027；现实对照 追踪表（2026 年中约 0.7× 情景日历）。制度比能力慢 ~+30%（政治、联邦法）；具身 AI 政策再 +12–24 个月。

Ci	能力（白话）	最常见窗口
C1	约 10²⁸ FLOP 级训练	2025–26
C2	Agent-1；内部研发 ~1.5×	2026 上半年
C5	Agent-2；内部研发 ~3×	2027 下 – 2028
C6	超人类程序员	~2028 上
C7	实验室「天才国」	~2028 下
C8	公开 AGI 级	~2028 下 – 2029
C9	超人类 AI 研究员	~2029

后文 Ci 标注统一：能力档写 白话（脊柱 Cx）（如公开 AGI 级（脊柱 C8））；剧情节点写 白话（事件 Cx）（如内部对齐担忧（事件 C10））。C3/C4/C10 只有事件、没有脊柱档。

已知局限： 脊柱在 3 个种子校准里有 2 个偏离了自己 AI-2027 版的时限目标——C1 和 C6 前后的几个里程碑触发得比目标日历快一些。这一块还没重新调，上表的日历列方向大致对，但和当前模型版本没有精确校准。

按主题还有：地缘、冲突、分配、双用途科学等——见 证据索引。

---

② 怎么估概率

诚实说明

我不是政策、生物、国会程序方面的专家。这些 P 是我用 AI 工具查公开信息（法案、METR、IGSC、实验室声明、论文），整理成证据表，再自己审一遍、签字的。仅供参考——你要是发现我曲解了来源、链接挂了，那就是我搞错了，欢迎反驳。

不是把全网丢给模型吐一个回归系数；也不是纯拍脑袋——AI 险境、联邦暂停、AGI 级系统没有足够历史样本做统计回归。我走的是 结构化专家判断：每条按同一模板写（附录 G）：

字段	作用
主张	这个 P 到底在问什么（要能反驳）
理由	为什么是这个量级
证据	可查链接
类比	填 AI 史上无数据处
什么会让我改	可观察证伪条件

写入 events.yaml 后，改一条 P 就重跑整条联合世界线（耦合见 附录 C）。

概率之下还有一层持续机制（真实 GDP 增长、就业/不平等漂移、自主性侵蚀、战争/治理对增长的拖累），锚定在真实发表的估计上，而不是拍一个能让分布好看的数字：历史 GDP 增长率（BEA/World Bank）、IT 扩散期生产率贡献（Jorgenson & Stiroh）、战争/地缘碎片化的经济成本估计（IMF、Bloomberg Economics）、通用技术增长理论（Aghion/Jones/Jones；Davidson；Erdil & Besiroglu）。完整引用见 附录 E。

一个结构性的坦白：能力引擎是欠定的

capability.py 的增长函数由 22 个独立的比例/指数常数组成，但用来校准它的目标只有 12 个数字（7 个里程碑时限边际 + 5 个脊柱条件概率）。这是一个欠定系统：很多组不同的常数取值都能命中同样的 12 个校准目标，其余维度上却可以任意不同——校准通过，不代表每一个常数的具体数值都被真正钉住了。

一次单参数敏感性扫描（每个参数 ±25% 扰动，固定随机种子，n=60）能看出真实结构：三个参数——multiplier_exponent、carrying_capacity、base_daily_growth——几乎承担了模型对校准目标的全部响应，其余参数出错的代价相对都很低。更扎眼的是，22 个参数里有 7 个（deployment_pressure、china_frontier_parity、us_china_race_index、compute_concentration、eu_regulatory_bind、open_weights_regime、frontier_lab_polarization 这几个变量对应的 input.*.scale 项）敏感度精确为 0.0%——不是”影响小”，是在这个模型实际抽样到的轨迹范围内结构性地从不生效，因为驱动变量一直贴着 reference 值，触发项从未激活过。这几个参数在 YAML 里都标了引用来源，但一个对任何输出都测不出影响的参数，引用再扎实也起不到引用本该起的作用。完整敏感性表和方法：docs/CALIBRATION.md。

关键分歧点（crux）

百分比是算出来的；真正该争的是下面这几个假设。 能进正文表的条件：要是证伪了，四分区里至少有一块得动 ≥2–3 个百分点。完整登记 附录 H。

时间紧的话，先吵这两条：

1. 2028 年前无联邦训练暂停 — 88%（竞赛故事、摩擦和末日概率，大半都押在这条上）
2. AI 收益主要落在算力/模型所有者手里 — 73%（摩擦 ↑，繁荣 ↓）

分歧点	P(成立)	方向
2028 前无暂停	0.88	竞赛 ↑
欺骗在对齐后仍存活	0.70	末日 ↑
收益集中	0.73	摩擦 ↑，繁荣 ↓
幽灵 GDP 且无转移支付	0.60	摩擦常态
生物筛查法案按时	0.40	生物风险 ↓
险境发生后仍被隐藏	0.55	末日 ↑（生物链）
州级收入措施落地	0.38	部分分配摩擦，非繁荣

次要分歧点

分歧点	P	杠杆
自主武器无约束扩散	0.72	摩擦、竞赛叙事
教育吸收不了事件 C4 就业冲击	0.60	U4、摩擦
2028 换届改联邦 AI 姿态	0.50	筛查节奏、抢占

十二个决定性概率

#	事件	概率
1	2028 前无联邦暂停	88%
2	2027 年底前生物筛查成法	40%
3	二级存在时三级先于筛查	22%
4	险境发生后仍被隐藏	55%
5	模型被盗后竞赛加速	20%
6	吹哨 → 监督不停训	58%
7	到 ASI 阈值仍不关停	62%
8	触发后按最常见反应算，灭绝约	17%
9	三家云巨头垄断	82%
10	欧盟 GPAI 约束美国实验室	14%
11	美国治理瘫痪 S2	55%
12	云/软件侧 RSI 优先	55%

完整证据：附录 A · 证据索引。

---

走四条典型世界线

汇总图和四分区是加总；这里把模拟 一天一天（2026-01-01 → 2050-12-31）跑出来的四条代表路径摊开，包括劳工反弹这类结构上难触发、但确实可达的场景。下表每一行 = 那天有脊柱档或剧情事件触发（没列出来的日子，能力还在爬、变量在慢慢漂）。变量列是当天结束时的快照（0–1，潜能力和 GDP 除外）。

列	变量
治理	governance_capacity
部署压力	deployment_pressure
欺骗	deception_risk
对齐	alignment_trust
自主	human_autonomy_index（「慢性失控」轴）
分配	distribution_regime
潜能力	internal_capability（驱动 C1–C9）
GDP	gdp_index（持续复利增长）

完整逐日 trace（含无事件日每 90 天采样）：story_paths_detail.json · 复现 export_story_paths.py（python scripts/export_story_paths.py --runs 3 10 13 17）

路径 A — 有分配政策，但不够（~21%）

Run #3 · seed 42 · 终点 friction_managed_non_utopia · 触发 12 个事件

这次没触发： ev_federal_pause_succeeds · ev_bmia_pass · ev_c10_internal_concern · ev_whistle_memo · ev_prod_interp_halt · ev_us_paralysis_s2 · ev_deceptive_deploy_at_scale · ev_swf_enacted

新机制在起作用： 没有联邦主权基金，但 2027-12-07 一条州级 AI 收入措施落地（ev_state_revenue_measures）——分配政策力度从 0.10 跳到 0.32，是真实但局部的政策响应。配合完整跑通的能力路径（C1→C9 在 2031 年前全部触发）、没有对齐恐慌，自主性反而一路涨到 1.0（制度一直在正常运转），就业压力和不平等则都封顶。这个故事讲的是：制度基本没垮，没人失控，但这还是不够——这个事件代表的州级各自为政，是真实的政策行动，只是没凑成全国性的解决方案。

日期	今天触发	治理	部署	欺骗	对齐	自主	分配	潜能力	GDP
2026-01-06	海湾国家算力主权	0.52	0.32	0.12	0.55	0.88	0.10	0.5	1.00
2026-10-28	超大规模云三巨头锁定	0.52	0.32	0.12	0.55	0.89	0.10	1.1	1.01
2026-12-28	10²⁸ FLOP 级训练（脊柱 C1）	0.52	0.32	0.12	0.55	0.89	0.10	1.3	1.01
2027-02-19	中国算力动员	0.52	0.44	0.12	0.55	0.89	0.10	1.4	1.02
2027-10-28	各州 AI 各自为政	0.57	0.44	0.12	0.55	0.90	0.10	2.5	1.03
2027-12-07	Agent-1（脊柱 C2）+ 州级收入措施	0.57	0.49	0.12	0.55	0.91	0.32	2.5	1.03
2028-01-08	2028 前无联邦训练暂停	0.57	0.59	0.12	0.55	0.91	0.32	2.7	1.03
2028-02-24	就业冲击（事件 C4）显现	0.57	0.59	0.12	0.55	0.92	0.32	3.0	1.04
2029-01-19	Agent-2（脊柱 C5）	0.57	0.59	0.12	0.55	0.95	0.32	5.4	1.06
2029-03-23	超人类程序员（脊柱 C6）	0.57	0.59	0.12	0.55	0.95	0.32	6.0	1.06
2029-08-09	实验室「天才国」（脊柱 C7）	0.70	0.59	0.12	0.55	0.97	0.32	7.5	1.07
2029-10-26	企业安全防线空心化	0.70	0.59	0.12	0.43	0.98	0.32	8.4	1.07
2030-12-02	公开 AGI 级（脊柱 C8）	0.71	0.69	0.12	0.43	1.00	0.32	8.4	1.10
2031-02-01	超人类 AI 研究员（脊柱 C9）	0.71	0.69	0.17	0.43	1.00	0.32	9.3	1.11

2049-12-31 到期 → 摩擦（friction_managed_non_utopia）。最终 GDP 是 2026 年的 1.69 倍，就业压力和不平等都到顶，分配政策力度卡在 0.32——比什么都没有强，但离真正的制度性解决方案还差得远。

路径 B — 对齐恐慌 + 战争 → 末日（~5%）

Run #10 · seed 42 · 终点 doom_whimper · 触发 18 个事件

这次没触发： ev_c4_labor_shock · ev_federal_pause_succeeds · ev_whistle_memo · ev_prod_interp_halt · ev_deceptive_deploy_at_scale · ev_state_revenue_measures · ev_swf_enacted

头五年自主性甚至高于基线（0.88→0.91）——治理在正常运转，表面上一切正常。然后 2031-12-27 内部对齐担忧（事件 C10）触发（欺骗风险 0.17→0.35，对齐信任 0.43→0.35），2032-03-10 到 ASI 阈值仍不关停——紧接着记录的下一步，自主性从 0.891 骤降到 0.681——再到 2034-08-10 台海冲突，同时把 GDP 从增长轨道打到 2026 年水平的 0.88 倍（低于基线），自主性进一步侵蚀到 0.633。到终点，自主性只剩 0.328，GDP 再也没恢复（0.72 倍）——渐进式失控叠加一场真实的战争，两个坏结果互相放大。

日期	今天触发	治理	部署	欺骗	对齐	自主	潜能力	GDP
2026-01-06	生物一级能力上线	0.52	0.32	0.12	0.55	0.88	0.5	1.00
2027-08-19	联邦暂停尝试失败	0.52	0.44	0.12	0.43	0.90	2.1	1.02
2027-09-17	Agent-1（脊柱 C2）	0.52	0.49	0.12	0.43	0.90	2.2	1.02
2028-04-16	2028 前无联邦训练暂停	0.52	0.59	0.12	0.43	0.91	3.5	1.04
2028-05-16	美国治理瘫痪 S2	0.32	0.59	0.12	0.43	0.91	3.7	1.04
2028-06-25	BMIA 生物筛查法案通过	0.32	0.59	0.12	0.43	0.91	3.9	1.04
2029-04-07	Agent-2（脊柱 C5）	0.32	0.67	0.12	0.43	0.91	5.4	1.03
2029-06-10	超人类程序员（脊柱 C6）	0.32	0.67	0.12	0.43	0.91	6.2	1.03
2030-08-08	实验室「天才国」（脊柱 C7）	0.32	0.67	0.12	0.43	0.90	7.5	1.03
2030-09-05	公开 AGI 级（脊柱 C8）	0.32	0.77	0.12	0.43	0.90	8.0	1.03
2031-07-06	超人类 AI 研究员（脊柱 C9）	0.32	0.77	0.17	0.43	0.89	9.4	1.03
2031-12-27	内部对齐担忧（事件 C10）	0.32	0.77	0.35	0.35	0.89	10.4	1.03
2032-03-10	到 ASI 阈值仍不关停	0.32	0.77	0.35	0.35	0.68	10.6	1.03
2034-08-10	台海动能冲突	0.32	0.77	0.35	0.35	0.63	10.5	0.88

2049-12-31 → 末日（doom_whimper）。最终自主性 0.328，GDP 从未从战争冲击中恢复（0.72 倍）。欺骗风险和低信任从未解决。

路径 C — 制度 + 可解释性突破 → 黄金时代（~6%）

Run #13 · seed 42 · 终点 utopia_golden_age · 触发 13 个事件

这次没触发： ev_federal_pause_succeeds · ev_bmia_pass · ev_c10_internal_concern · ev_whistle_memo · ev_us_paralysis_s2 · ev_deceptive_deploy_at_scale · ev_state_revenue_measures · ev_swf_enacted

对比 A/B： 没有治理瘫痪；同样是无暂停 + 中国算力动员，但 2031-06-02 生产环境可解释性叫停成功——欺骗风险降到 0，对齐信任从 0.43 升到 0.58——即便同一时期也出现了再培训失败和劳工动员（社会不是完美的），2036 年一份有益 AI 条约落地。GDP 靠部署广泛且被信任之后的真实持续增长，复利涨到这里记录的 1.27 倍（到 2050 还会更高）。

日期	今天触发	治理	部署	欺骗	对齐	自主	潜能力	GDP
2026-07-19	生物一级能力上线	0.52	0.32	0.12	0.55	0.88	0.8	1.01
2027-04-27	10²⁸ FLOP 级训练（脊柱 C1）	0.52	0.32	0.12	0.55	0.89	1.5	1.02
2027-10-05	Agent-1（脊柱 C2）	0.52	0.37	0.12	0.55	0.90	2.2	1.03
2028-02-13	2028 前无联邦训练暂停	0.44	0.47	0.12	0.55	0.91	2.9	1.04
2028-12-29	各州 AI 各自为政	0.49	0.47	0.12	0.55	0.93	5.0	1.06
2029-01-11	Agent-2（脊柱 C5）	0.49	0.55	0.12	0.55	0.93	5.1	1.06
2029-05-22	超人类程序员（脊柱 C6）	0.49	0.55	0.12	0.55	0.94	6.3	1.07
2030-04-15	实验室「天才国」（脊柱 C7）	0.49	0.55	0.12	0.43	0.97	7.5	1.09
2030-10-30	公开 AGI 级（脊柱 C8）	0.49	0.65	0.12	0.43	0.98	8.4	1.10
2031-06-02	生产环境可解释性叫停	0.49	0.65	0.00	0.58	0.99	9.4	1.12
2031-07-05	超人类 AI 研究员（脊柱 C9）	0.49	0.65	0.05	0.58	0.93	9.4	1.12
2033-12-15	到 ASI 阈值仍未关停（挺过来了）	0.50	0.65	0.05	0.58	0.79	11.0	1.19
2036-10-01	有益 AI 条约	0.50	0.53	0.05	0.58	0.86	11.0	1.27

2049-12-31 → 繁荣（utopia_golden_age）。是可解释性突破 + 制度撑住了，不是生物丰裕奇迹。

路径 D — 劳工反弹，未被吸收（~9%）

Run #17 · seed 42 · 终点 friction_labor_backlash · 触发 18 个事件

这次没触发： ev_federal_pause_succeeds · ev_whistle_memo · ev_prod_interp_halt · ev_deceptive_deploy_at_scale · ev_state_revenue_measures · ev_swf_enacted

2028-03-10 就业冲击（事件 C4）显现，2030-05-07 有组织的劳工动员跟上，2031-06-20 再培训正式未能吸收 C4 冲击（ev_reskilling_fails_absorb_c4——联邦方案没来；对比路径 A 的州级局部响应）。治理沿途也因瘫痪受了真实打击。和路径 B 不同，自主性一路保持高位（0.98）——这不是失控的故事，是分配的故事：人还大体上说了算，只是对收益怎么分配感到愤怒。

日期	今天触发	治理	部署	欺骗	对齐	自主	潜能力	GDP
2026-06-01	生物一级能力上线	0.52	0.32	0.12	0.55	0.88	0.7	1.01
2027-02-11	10²⁸ FLOP 级训练（脊柱 C1）	0.57	0.32	0.12	0.55	0.89	1.3	1.02
2027-11-01	Agent-1（脊柱 C2）	0.57	0.37	0.12	0.55	0.91	2.4	1.03
2028-03-10	就业冲击（事件 C4）显现	0.57	0.37	0.12	0.55	0.92	3.2	1.04
2028-08-29	BMIA 生物筛查法案通过	0.57	0.37	0.12	0.55	0.94	4.3	1.05
2028-12-24	美国治理瘫痪 S2	0.37	0.47	0.12	0.55	0.96	5.1	1.06
2029-02-09	Agent-2（脊柱 C5）	0.37	0.55	0.12	0.55	0.96	5.4	1.06
2030-04-23	实验室「天才国」（脊柱 C7）	0.38	0.55	0.12	0.55	0.98	7.5	1.08
2030-05-07	有组织劳工动员	0.38	0.55	0.12	0.55	0.98	7.8	1.08
2030-05-24	内部对齐担忧（事件 C10）	0.38	0.55	0.30	0.47	0.98	8.1	1.08
2031-06-20	再培训未能吸收 C4 冲击	0.38	0.55	0.30	0.43	0.92	8.4	1.10
2032-10-20	公开 AGI 级（脊柱 C8）	0.38	0.65	0.30	0.43	0.93	8.4	1.13
2033-05-19	超人类 AI 研究员（脊柱 C9）	0.38	0.65	0.35	0.43	0.94	9.4	1.14

2049-12-31 → 摩擦（friction_labor_backlash）。最终 GDP 1.72 倍，自主性仍高达 0.98——这是愤怒和不平等的故事，不是失控的故事。

更多样本见 web 探索器 · TRY_IT.md

---

③ 模拟结果

四分区（3 种子 × 400 次）

区域	种子 42	种子 123	种子 456	平均
末日	6.2%	6.8%	8.2%	~7.1% ± 1.0%
繁荣	18.8%	18.0%	17.2%	~18.0% ± 0.8%
摩擦	69.2%	68.5%	67.8%	~68.5% ± 0.8%
严重	5.8%	6.8%	6.8%	~6.4% ± 0.6%

主要终点（n=600，种子 42）：friction_managed_non_utopia ~21%、friction_ghost_gdp_no_transfer ~20%、utopia_modest_welfare ~12%、friction_governance_paralysis ~11%、friction_labor_backlash ~9%、utopia_golden_age ~6%、severe_cyber_cascade ~6%、doom_whimper ~5%。

主张	P	会下注吗？
末日区，2050 前	~7%	会
2028 前无暂停	88%	会

分叉路径图（600 runs，种子 42）

飘带宽度 = 联合 MC 里占的比例——不是独立场景权重。

这是分叉图的静态导出版；如果这里的数字和文首头条数字有出入，以 web 探索器里的实时交互版本为准。

颜色怎么读：

颜色	含义
蓝	能力档位（如公开 AGI 级、超人类 AI 研究员；脊柱 C8–C9）——不是最终结局
橙 / 棕	治理分岔：竞赛、竞赛+瘫痪、暂停（尾部）
紫	内部对齐担忧（事件 C10）触发
黄	摩擦 ~69%（常态）
红	末日 ~7%
绿	繁荣 ~18%
紫（终点列）	严重 ~6%

交互版：web 探索器 · 复现：TRY_IT.md

最重要的几条路径

占比	路径	结局
21%	公开 AGI 级–超人类 AI 研究员（脊柱 C8–C9）→ 州级局部分配政策 →	摩擦
20%	公开 AGI 级–超人类 AI 研究员（脊柱 C8–C9）→ 幽灵 GDP，无转移支付 →	摩擦
11%	公开 AGI 级–超人类 AI 研究员（脊柱 C8–C9）→ 中段治理瘫痪 →	摩擦
9%	就业冲击（事件 C4）→ 劳工动员 → 再培训失败 →	摩擦

命名分桶： 完整脊柱 C1→C9（全脊柱）~89%；无暂停 + 瘫痪同时出现 ~52%；C9 但无吹哨链 ~55%。

哪些事件最牵动结局？

同一批数据：杠杆 = P(区域|事件) − P(区域|¬事件)（相关性，不代表因果）。1200 次运行 · 种子 42；基线末日 6.8%·繁荣 18.8%·摩擦 68.8%·严重 5.6%：

事件	P(触发)	Δ末日	Δ繁荣	Δ摩擦	读法
ev_cyber_cascade	6%	−5.4%	−18.8%	−68.8%	基本就是「严重」终点的同义词（n=68）
ev_fed_edu_reskilling	15%	−1.9%	+43.3%	−43.6%	整个事件图里最大的繁荣杠杆——联邦（不只是州级）再培训真正成功
ev_deploy_incident	2%	+37.2%	−18.8%	−12.8%	归因明确的实际部署伤害；尾部，n=25
ev_deceptive_deploy_at_scale	7%	+30.7%	−11.2%	−18.8%	欺骗性模型大规模部署
ev_prod_interp_halt	11%	−5.3%	+24.6%	−20.0%	可解释性抓到问题 → 叫停 → 繁荣份额上升
ev_swf_enacted	5%	+1.6%	+23.6%	−29.8%	完整联邦主权基金——比州级措施更罕见、影响也更大
ev_whistle_dump	6%	+14.3%	−3.3%	−9.7%	原始评测数据泄露显示模型在算计
ev_no_shutdown_asi_threshold	30%	+9.9%	−3.4%	−4.3%	在这个能力档已是常态；偏末日但单独不足以决定结局
ev_c10_internal_concern	32%	+7.1%	−4.8%	−2.3%	对齐恐慌现在会走向多种不同路径，不再几乎只通向末日
ev_corp_safety_hollowing	51%	+4.5%	−4.5%	+0.8%	很常见，两个方向都有轻微负面影响

完整 61 个事件：探索器事件影响面板（event_impact.json）· event_impact.py（python scripts/event_impact.py -n 1200 --seed 42）。

ev_fed_edu_reskilling 是整个事件图里单个杠杆最大的繁荣推手——最能说明一个成功的联邦再培训方案，相对于模型里其他一切因素，分量有多重。

与 AI 2027 交叉验证

校准脊柱与核心事件边际；测量四分区（不去调 ~7% 末日凑数）。

检查	目标	状态
P(ev_no_pause_2028)	~88%	✓ 达标
P(ev_bmia_pass)	~45%	✓ 达标
P(ev_us_paralysis_s2)	~55%	✓ 达标
脊柱各档限期	AI-2027 推导目标	✗ 3 个种子里 2 个没达标
跑出来的末日率	~7%（测量值）	—

我选择把脊柱这个已知缺口公开发出来，而不是等修完再发——不然整篇文章就要被一个没有明确终点的内部清理工作卡住。剧情事件的边际概率（真正承载分歧点内容的那些数字）是对的；能力时间线的日历部分还需要再过一遍。

最常见的那种社会（简）

常态 = 透明度 + 劳工压力 + CBRN 筛查 + 出口管制 + 无训练暂停 + 竞赛继续 + 局部的、州级的分配响应——加速伴随摩擦。快照：按 Ci 看社会。

---

什么会改变我的判断

近期日历（2026–2028）

~7 / ~18 / ~69 / ~6 不是钉死的预言。 主窗口 2026–2028（就业冲击事件 C4 → 公开 AGI 级脊柱 C8 → 对齐担忧事件 C10）。哪条链被证伪 → 更新对应分歧点 P → 重跑模拟（见 模拟结果）。

时间 / 什么	在看什么	会动哪
2026 年 11 月 CCW + DoDD 改写	自主武器升级	次要分歧点
2026–27 BMIA / GAAIA 审议	真立法 vs 空文件	节点 2、6
裁员 + 联邦培训拨款	幽灵 GDP vs 家庭实际所得	分配、繁荣
≥1 个州通过「动真格」的收入/数据中心措施	新分歧点——验证/证伪州级各自为政机制	摩擦构成
2026 中期选举 → 2028 就职	竞赛 vs 监管	无暂停 88%
自愿披露二级生物险境	隐藏比例	节点 10；末日 −~2pp

持续跟踪

如果……	我会怎么改
≥2 起自愿披露的二级生物险境（前四实验室）	末日 −~2pp
≥2 家前沿实验室在泄露后暂停 >90 天	无暂停概率 ↓
生产环境算计 → ≥1 家实验室暂停 >30 天	未对齐条件概率 ↓ 2–4pp
一份联邦（非州级）再培训方案真正通过	繁荣 ↑，是上面事件影响表里最大的单一杠杆

日常追踪：METR 50% 时间跨度；Challenger AI 裁员；BMIA 立法状态；幽灵 GDP 蔓延情况。

---

声明

在把上面任何一个数字当真之前：

• 这是一个人尽力而为的结构化判断，不是经过验证的预测模型。 这些百分比背后没有已结算预测的历史战绩，没有 Brier 分数，没有预测锦标赛式的校准记录——把 ~7/~18/~69/~6 当成一个值得辩论的起点，不要当成统计意义上带置信区间的数字。
• 头条数字是模拟输出 + 我对输入的判断的叠加，不是独立于我判断之外的预测——分歧点站不住，四分区也站不住。该争的是分歧点；四个百分比是推论。 该反驳的是某条分歧点，不是某个百分比。
• 生物 / 化生不是我的专业背景——节点 2 等概率是靠 IGSC、WMDP、ScreenDNA、公开新闻尽力而为，具体做法见 ② 怎么估概率。
• AI 辅助检索与起草证据表；我读过来源，每条概率由我签字。
• 稀有终点在这个样本量下噪音很大。 低于 ~1% 的终点（doom_extinction_bio、utopia_radical_abundance）在 n=600 时只对应个位数次命中——请当数量级参考，不要当两位有效数字的精确百分比。
• 事件”杠杆”（触发某事件后区域概率的变化量）是相关，不是因果——而且比一般的”相关不等于因果”更需要打折扣。 事件之间通过潜在的相关簇（附录 C）彼此关联，一个很大的杠杆数字，可能只是说明”这个事件更容易出现在本来就在滑向那个结局的轨迹里”，不是”这个事件把轨迹推向了那个结局”。
• 能力引擎是欠定的——见 ② 怎么估概率里的结构性坦白：22 个增长参数里，大部分都没有被 12 个校准目标真正钉住，其中 7 个目前测不出任何可衡量的效果。
• 证据页状态： 部分 pdoom-evidence-* 页仍标 draft；发布前会逐条核对链接与主张是否仍成立。
• 正文标注： 有据 = 有公开文档；我们的估计 = 带区间的判断；场景 = AI 2027 情节；推测 = 锚点很弱。
• 模型本身也可能有 bug，我如实披露而不是悄悄调参绕过去。 能力脊柱的时间线偏差是当前还没解决的一处，见对照表。

---

附录 A — 节点简表

节点	主题	主要有分量的 P
1	智能体劳工冲击	无联邦暂停；GUARD 具身 12–14%；文化战争式审查是常态
2	CBRN 一级→三级	BMIA ~0.40；三级先于筛查 ~0.22
3	模型被盗 / 地缘政治	盗窃后竞赛加速 ~0.20
4	吹哨人 / 对齐恐慌	吹哨常态 ~0.58；P(灭绝 | 触发 E + 常态响应) ~0.17
5	开放权重 + 篡改	无联邦开放权重禁令 ~0.88
6	GAAIA / 抢占	抢占削弱 SB53 义务 ~0.35
7	算力 / 云	超大规模云三巨头 ~0.82
8	网络 / 关键基础设施	网络尾部显著性 2027–29
9	多边治理	韩国 AI 基本法约束外国实验室 ~0.28；欧盟 GPAI ~0.14
10	隐藏险境 / 披露	隐藏:公开 >3:1 ~0.55；保持隐藏 ~0.55
11	企业治理	P(暂停 | 危机持续 >30 天) ~0.12
12	RSI 落点	云/软件优先 ~0.55；落点变化让分区 ±3–6pp
13	分配 / 劳工吸收	州级收入措施 ~0.38；联邦再培训 ~0.22；无联邦方案时再培训失败 ~0.60

完整逐条证据：证据索引。附录 G 是读者指南 + 算例。

---

附录 B — 终点术语表（模拟）

终点	区域	白话
friction_managed_non_utopia	摩擦	真实但局部的分配政策（州级或再培训）——比什么都没有强，不是全国性解决方案
friction_ghost_gdp_no_transfer	摩擦	GDP 涨了，但没有转移支付
friction_governance_paralysis	摩擦	联邦僵局、各地拼凑规则
friction_labor_backlash	摩擦	有组织劳工响应，再培训正式失败
friction_modal	摩擦	幽灵 GDP，加速但没到繁荣（现在占比小了很多，见上面的构成表）
friction_surveillance	摩擦	权力集中 + 治理疲软 + 自主性下降——现在可达，但实际仍然很罕见
friction_pause_stall	摩擦	联邦暂停成功，能力停滞在超人类研究员之下
utopia_modest_welfare	繁荣	分配 + 再培训达到「够用」水平
utopia_golden_age	繁荣	制度 + 一次真正的技术突破（可解释性、条约、科学）同时到位
utopia_symbiosis	繁荣	对齐在生产规模上成功；人类保留主动权
utopia_radical_abundance	繁荣	持续真实增长 + 长寿/太空成本突破
doom_whimper	末日	到期时的慢性失控，没有单一灭绝事件——由持续侵蚀机制驱动（部署压力压过治理能力与对齐信任），不是单一触发点
doom_extinction_*	末日	生物或未对齐灭绝事件触发
severe_cyber_cascade	严重	可恢复的系统性冲击

完整定义：terminals.yaml。

---

附录 C — 模拟里事件怎么相关

事件之间通过前置条件、解锁链、改触发概率、共享变量、相关簇 A–H 联动。联合模拟每次画出一条前后一致的时间线——上游触发会改下游触发概率，社会变量也会反馈回来。想压力测试就去改 events.yaml 重跑；分区变化反映的是整个世界重新画了一遍，不是孤立节点的加减法。

有向表：因果链 · 相关簇。

---

附录 D — 与 AI 2027 的分歧

主题	AI 2027	本模型
政治滞后	隐含在情节里	明确 +30% 混合档
吹哨人	2027 年 10 月固定日历	C10 按能力门控；追踪表 0.70×
结局	减速 vs 竞赛	四种以上明显不同的摩擦/末日/繁荣味道，不是两个桶
生物 / RSI 落点	按叙事权重	节点 12：22% 生物优先，50% 云优先
社会	故事结局	C4–C10 常态快照（c8_society_snapshot_by_ci.md）
GDP / 增长	没有明确建模	真实复利增长，锚定历史增长率 + 通用技术扩散文献

---

附录 E — 精选来源

能力： METR 时间跨度 v1.1；AI 2027 追踪表；Epoch AI 模型库。

治理： Anthropic 支持 SB 53；欧盟 AI 法案 / GPAI 框架；GAAIA 讨论稿（2026）。

生物： IGSC；WMDP；Amodei 合作筛查提案（2026）。

对齐： Apollo 算计研究；Hubinger 等，Sleeper Agents。

历史 / 认识论： Ord《危崖》；Bostrom 等，人择阴影；Juma《创新及其敌人》。

社会 / 经济： Acemoglu & Johnson《权力与进步》。

AI 增长、GDP 与冲击的经济学：

• Aghion, Jones & Jones，「人工智能与经济增长」（NBER w23928，2017）——AI 宏观效应的半内生增长模型。
• Davidson，《先进 AI 能否驱动爆炸式经济增长？》（Open Philanthropy，2021）——原文只给「爆炸式增长」（年增长率 >30%）到 2100 年前发生赋了约 10% 概率，这是原文自己界定的尾部情景，不是中心估计。
• Erdil & Besiroglu，「AI 自动化带来的爆炸式增长：论证综述」（Epoch AI，2023）——评估了 9 条反方论证；结论是爆炸式增长「说得通」但不该抱有高信心。
• Jorgenson、Ho、Stiroh（关于 1995–2004 年美国生产率跃升的增长核算文献）——IT 资本深化 + IT 相关全要素生产率贡献了那段时期美国劳动生产率增长的约 47–60%，换算下来约合每年 +1.2–1.8 个百分点。
• Bloomberg Economics，《一万亿美元之战：为美中台海战争建模》（2024，2026 更新）——完整台海冲突成本约 10 万亿美元 / 全球 GDP 的约 10%，用来校准模拟里战争对 GDP 的拖累。
• IMF，《地缘经济碎片化与多边主义的未来》（SDN/2023/001）——在严重的贸易/科技脱钩情景下，GDP 损失最高可达 7%。
• Kaufmann & Kraay 的世界银行治理指标研究——确立了治理质量到经济结果之间的真实因果通路；我用来定「治理崩溃拖累 GDP 增速多少」的具体数值是我自己的判断，不是直接从这份文献里读出来的。
• Chris Miller，《芯片战争》（2022）——台积电生产全球约 90% 最先进的逻辑芯片，是模拟里台海冲突能力冲击机制背后的真实卡脖子环节。

本站相关文章： AGI 时间点预测都收敛在 2027–2028！？

---

附录 F — 和历史预言比（可选）

「过去的末日论者都错了」只对了一半。道德恐慌（就业、孩子不会读书了）大多落空；科学早期预警（臭氧层、蕾切尔·卡森）常常部分应验；RSI 式灭绝没有紧密的历史类比——未对齐灭绝自成一个尾部，慢性失控/严重灾难倒是能借更丰富的历史。

人择阴影：低概率灭绝不会因为「我们还活着」就被证伪；道德恐慌会。

---

附录 G — 每个概率怎么估、读者怎么质疑

不是拍脑门，也不是大数据回归

十三个节点里约 313 个概率都是结构化专家判断。每一条都用同一个模板：

字段	含义
主张	这个 P 回答什么问题（要能反驳）
理由	为什么是这个量级
证据	链接、法案、新闻、论文
类比	历史模式（填 AI 无数据处的空）
什么会让我改	可观察的证伪条件——你反驳我的抓手
信心	高 / 中 / 低

站得住脚的反驳 = 你能指着某一行说「这条证据错了，0.55 应该是 0.40」。站不住脚的反驳 = 指望有一个公开的、有地面真值的险境数据库——没有这种东西。同样的标准也适用于持续机制（GDP 增长、自主性侵蚀等）——capability_dynamics.yaml 里每个常数都有行内注释写清楚是引用来的还是拍的，让读者能分清哪些是有分量的证据、哪些只是占位判断。

读者质疑的四步法

1. 定义对不对？ 公众关注度 vs 真实发生率？
2. 证据撑得起这个量级吗？ 「在委员会审议」≠「已立法」；一篇博客 ≠ 一个基础率。
3. 类比公平吗？ 网络安全的披露延迟 ≠ 实验室的披露延迟，但比纯猜强。
4. 证伪条件能观察到吗？ 如果我说「12 个月内 ≥2 起自愿二级披露 → 我会改」，你就能盯着这条看。

不同意 ~7% 末日？不用重建整个模型——挑一条有分量的 P（附录 A），走四步法，改 events.yaml，重跑模拟（见 TRY_IT.md）。

---

算例 1：节点 10 — 险境发生后仍被隐藏（约 55%）

问题： 二级生物 / 智能体 / 对齐险境里，真实:公开的比例通常大于 3:1 吗？

55% 怎么来的：

1. 2024–26 有记录的模式： Lobstar 级金融错误、Meta 一级事故片段、受控渠道内的思维链训练事故——联邦触发条件 E 的公开显著性很低。组织内部风波（Leike）≠ 能力险境标点事件。
2. 三种情景（权重加起来是完整故事）：

情景	权重	含义
常态压制	55%	隐藏:公开 约 3:1–8:1
高度压制	30%	>10:1
透明起效	15%	~1:1（SB 53 / RAISE 起作用）

55% 是常态情景的权重，不是一次抛硬币。

3. 类比： 网络安全漏洞披露中位延迟 200+ 天；航空安全报告系统（ASRS）里的险情 vs 头条新闻；核事故险境低报（Pelopidas 研究）。
4. 和节点 2 的一致性： 公开触发条件 E 约 25–35% 意味着如果险境真的发生了，会有隐藏的部分——这种叙事一致性是在模拟内部检验的，不是简单地把边际概率相乘。
5. 信心：中
6. 什么会让我改： 前四实验室 12 个月内 ≥2 起可审计、及时的自愿二级公开披露 → 调到 ~0.35–0.40；头条灭绝概率 −~2pp。

---

算例 2：节点 2 — 2027 年底前 BMIA / 强制筛查立法（约 40%）

问题： 美国会在 2027 年底前通过强制性联邦核酸合成筛查法（BMIA / S.3741 一类）吗？

40% 怎么来的：

1. 硬证据： S.3741 2026 年 1 月两党联合提出；ScreenDNA 联盟 2026 年 6 月成立；特朗普政府支持筛查而非训练算力上限；仍在委员会审议，未签署。
2. 点估计： 原始 45%（本届国会约 50% 通过率）× 美国治理瘫痪折扣 → 工作估计 40%（区间 30–50%）。联盟比暂停派更窄——是物理卡点，不是算力上限。
3. 类比： IGSC 自愿标准 → 2024 年 OSTP 采购要求 → BMIA 作为第三道螺栓。
4. 和节点 10 的联系： 40% 已经假设了一部分隐藏险境——不是「每次恐慌都能推动国会」。
5. 信心：中–高
6. 什么会让我改： 2027 年底前在委员会搁浅且无替代方案 → 降到 ≤35%；2027 年内签署 → 升到 ≥70%。

---

算例 3：节点 1/4/11 — 2028 前无联邦训练暂停（约 88%）

这是全模型里分量最重的一个数字（正文”时间紧的话先吵这两条”的第一条）——改动它对四分区的影响比任何其他分歧点都大，所以这里给它和其他算例同等的六段式处理，而不是一张摘要表。

问题： 到 2028 年底为止，美国有没有出现一部约束 ≥2 家主要实验室、持续 ≥90 天的联邦训练算力上限法律或行政令——也就是说，训练是否会在一次触发条件 E 级别的恐慌之后照常继续？

88%（区间 83–93%）怎么来的：

1. 立法信号： Cruz 提出的 AI 暂停修正案在参议院被以 99–1 的票数否决（2025 年 7 月）——这是这个议题上能拿到的、最接近”硬证据”的两党一致投票记录。FLI 2023 年的暂停公开信在政策层面没有产生任何可衡量的效果。
2. 行为先例： 2023 年 11 月 OpenAI 董事会危机是一次真实的前沿实验室治理危机——训练依然没有停。即使在实验室内部剧烈动荡的情况下，“危机→暂停”的基础发生率在经验上也很低。
3. 路径结构（在恐慌真的发生的条件下）： 内部对齐担忧一旦触发，常态反应是监督和审计，而不是暂停（约 58%，节点 4——Saunders 2024 年的国会作证是最接近的现实先例：公开显著性拉满，结果是 SB 53 式的透明度要求，不是停工令）。再乘上企业治理这道关卡——P(暂停 | 危机持续 >30 天) ~12%（节点 11”公司安全空心化”）——即使一次对齐恐慌真的触发了，走到实际暂停的概率也很低。
4. 更窄、更难达成的变体： 单纯以生物安全为由的联邦暂停概率更低，约 0.05–0.08（节点 2）——能靠 CBRN 理由单独促成停工的联盟，比整体 AI 安全联盟要小得多。
5. 联盟力量不对称： 在分歧点登记里建模的四种行政姿态情景下，支持继续训练的经济与国家安全联盟，都比支持暂停的联盟更广、组织得更好——这是 88% 落在这个位置而不是接近五五开的最主要原因。

类比： Y2K 补救工程——一场行业级的风险叙事，最终是在加强监督下继续运行解决的，不是靠停摆。Saunders 的国会作证是”恐慌不会自动转化为暂停”这一步更贴近 AI 议题本身的先例。

信心： 方向上（暂停不会成真）高；在 83–93% 这个区间内的具体点估计上为中等。

什么会让我改： ≥2 家前沿实验室在泄露或安全事件后公开暂停训练 >90 天（节点 4 的证伪条件）；或者一部有真实执行力的联邦训练算力上限法案被签署——两者任一发生，都会转而触发 ev_federal_pause_succeeds（与本事件互斥，右尾概率约 0.08）。

完整证据来源：docs/evidence/ev_no_pause_2028.md。

---

算例 4：ev_state_revenue_measures——先找证据，再定数字

这个算例示范的是 friction_managed_non_utopia（「有真实但局部的分配政策」这个终点）背后的纪律：要落到这个终点，distribution_regime 得推进一个特定区间，而负责推它的事件 ev_state_revenue_measures，用的概率是独立于这个终点、早就研究过的估计——「P=0.38，州级 AI 相关收入措施（加州/纽约/华盛顿州）在 2028 年前落地」——不是为了让这个终点可达而挑出来的数字。先有证据定数字，终点可达是结果，不是反过来。

什么会让我改： 到 2028 年没有任何一个州通过类似措施（证伪这条事件自己的主张），或者 ≥2 个州通过（概率上调）。

---

十二个节点分别有多「硬」？

节点	代表性 P	证据硬度	主要依据
2 生物筛查	40%	高	法案状态、行业联盟
10 隐藏险境	55%	中	零散事件 + 类比
1/4/11 无暂停	88%	高	投票记录、董事会危机、吹哨路径
5 开放权重禁令	88%	高	立法姿态、Meta 策略
8 网络尾部	—	中	地缘政治 + 基础设施模式
13 州级收入措施	38%	中	州法案活动，尚无任何州真正立法

附录 A 列出全部十三个。

逐节点证据： 节点 10 · 节点 2 · 完整索引

---

附录 H — 完整分歧点登记（Tier 1–3）

正文 关键分歧点 / 次要分歧点 只是摘要。2026-07： 与 ai-futures-sim 配置一致；Tier-3 仍标注「尚未写入模拟」——升格规则未变。

规则（canonical）

概念	定义
Crux / 分歧点	能检验的判断；要是错了，四分区至少一块得动 ≥2–3pp
Tier-1	≤16 条；正文核心表 + 直接写入 events.yaml
Tier-2	平行叙事脊柱（冲突、社会、地缘）；在盯，观测到可升格
Tier-3	晋升队列；有 P 和文档，尚未写入模拟配置
升格	可观察信号满足 → 进 Tier-1 并重算（见 什么会改变我的判断）

完整登记表见本节下文。

Tier-1 — 正文核心表直接用（16 条）

ID	主张（白话）	P(成立)	区间	主要动	证伪条件（可观察）
CX-NO-PAUSE	2028 前无联邦前沿训练暂停	0.88	0.83–0.93	竞赛↑ 摩擦↑	≥2 家实验室泄露后暂停 >90 天
CX-DECEPTION	欺骗在 RLHF + 部署评测后仍存活	0.70	0.55–0.85	灭绝↑	生产环境可解释性抓到算计
CX-HIDDEN-NEARMISS	险境发生后仍被隐藏 | 已发生	0.55	0.45–0.65	灭绝↑（生物）	自愿 Tier-2 披露链建立
CX-BMIA	2027-12 前 BMIA / 强制筛查成法	0.40	0.30–0.50	灭绝↓ 繁荣↑	签署 + 执法
CX-WHISTLE-MODAL	吹哨后走「监督、不停训」	0.58	0.50–0.65	渐亡↑ 摩擦↑	多边实质暂停
CX-GAINS-CONCENTRATE	AI 收益集中在算力/模型主	0.73	0.68–0.78	摩擦↑ 繁荣↓	≥2 个 G7 主权基金 + 广泛分红
CX-MEANING	意义制度在工具理性冲击下失败	0.58	0.48–0.68	U2↓ 渐亡↑	OECD 类试点成功
CX-ALIGN-SCALE	对齐技术扩到超人类档	0.38	0.25–0.52	灭绝↓	事件 C10 前 illegible scheming
CX-RSI-LOCUS	自我改进首先在云/软件	0.55	0.45–0.65	分支重权	具身 RSI 先发生
CX-US-PARALYSIS	美国重大法案周期瘫痪 (S2)	0.55	0.45–0.65	生物↑ 摩擦↑	功能性的法案周期
CX-GHOST-GDP	幽灵 GDP 且无实质转移支付	0.60	0.50–0.70	摩擦常态	工资与生产率广泛挂钩
CX-AGI-35	~2035 前 AGI 级能力	0.65	0.50–0.80	尾风险↑	能力停滞 3+ 年
CX-TIER3-BEFORE-SCREEN	Tier-2 在强制筛查前出现 Tier-3 滥用	0.22	0.14–0.30	灭绝↑	筛查先于 Tier-3 路径
CX-LONGEVITY-CLINIC	长寿瓶颈在临床不在发现	0.85	0.78–0.90	U1 推迟	AI 原生 NDA 大幅缩短
CX-MULTILATERAL	国际有益 AI 实质协调	0.22	0.16–0.30	灭绝↓ 繁荣↑	可验证条约试点
CX-STATE-REVENUE	州级 AI 收入/数据中心措施「动真格」落地（加州/纽约/华盛顿州）	0.38	0.30–0.46	摩擦构成（局部分配 vs 无转移）	≥2 州立法通过 → 上调；到 2028 无任何州通过 → 下调

Tier-2 — 正文「次要分歧点」+ 平行脊柱（已建模，未全进核心表）

ID	主张	P	脊柱	证据文档
CX-LAWS-ESCALATE	2028 前自主武器无约束扩散	0.72	冲突	X3 LAWS
CX-EDU-RESPONSE	2032 前再培训吸收不了事件 C4 就业冲击	0.60	社会	X4 教育
CX-ADMIN-FLIP	2028 行政换届实质改变联邦 AI 姿态	0.50	社会	X5 行政
CX-NO-SHUTDOWN	到 ASI 阈值仍不关停	0.62	灭绝链	节点 4、11
CX-RACE-POST-THEFT	权重被盗后竞赛加速 | 盗窃发生	0.20	竞赛	节点 3
CX-COMPUTE-CHOKE	前沿训练困在三家云巨头	0.82	集中	节点 7
CX-EU-BINDS	2028 前欧盟 GPAI 约束美国实验室	0.14	治理	节点 9
CX-HARD-TO	硬/局部起飞 (foom-class)	0.35	几何	节点 12
CX-SLOW-TO	慢起飞买到制度时间	0.40	Hanson 变体	附录 B
CX-SO-SO-AUTO	「还行自动化」> 机器真有用	0.65	摩擦	U2 分配节点
CX-UBI-SPEENHAMLAND	只发现金不减工时 → 实际工资受损	0.55	分配	X7 UBI

Tier-3 — 晋升队列（考虑过，尚未写入模拟配置）

ID	主张	P	为何没进核心表	相关文档
CX-CHINA-CDZ	中国算力动员匹配美国前沿节奏	0.45	地缘叙事；对 doom 区域杠杆 <2pp 除非盗窃/战争耦合	节点 3、C3
CX-NUKE-AI-COUP	AI 先降核指挥风险再升	0.40	双用途科学脊柱；对 doom 区域杠杆小	X6 科学
CX-EMBODIED-RSI	RSI 首先在具身/工厂	0.12	尾部；与 CX-RSI-LOCUS 互补	物理 AI
CX-EMPTY-TREATY	签署无验证的 AI 条约	0.10	空壳条约 vs 真协调	节点 9
CX-SC-BREAK	2035 前室温超导电网级部署	0.08	繁荣/U1 加速器，非灭绝主链	X6
CX-KINETIC-TW	2030 前台海热战	0.03	极端尾部（模拟里此事件已建模，并接入持续 GDP/能力拖累机制）	地缘
CX-CIVIL-WAR	2030 前美国内战级冲突	0.03	极端尾部	社会
CX-CYBER-KINETIC	网络 CI 危机引发动能打击	<0.03	极端尾部	节点 8

从「次要 crux」升格为完整节点（杠杆排序）

当初在节点 1–6 骨架外发现的重要假设，按 |ΔP(灭绝)| 排序后升格成独立节点或节点扩展：

排名	原 crux	升格为	若错向尾部约
1	隐瞒险境基础率	节点 10	灭绝 +4–7pp
2	公司治理空心化	节点 11	+3–5pp
3	RSI 落点 / 起飞几何	节点 12	分支 ±3–6pp
4	国安俘获 / 机密栈	节点 6 扩展	+2–4pp
5	生产可解释性抓算计	节点 4 扩展	−2–4pp（若真）
6	文化战争 → 审查非暂停	节点 1 扩展	±1–3pp
7	认识论崩溃拖 BMIA	节点 2 扩展	+1–3pp
8	分配政策只走州级、不走联邦	节点 13	摩擦构成 ±10–20pp

十二个决定性 P 与 crux / 节点映射

正文 十二个决定性概率 表里那 12 个数字，每条对应登记 ID + 证据页。Tier-1/2 与 events.yaml / 联合 MC 对齐；#2 筛查成法 crux 40% vs 事件 ev_bmia_pass 的 p_cumulative 45%（crux 偏保守）；#8 的 17% 是节点 4 条件链点估计，不是四分区文首那个 ~7% 末日（后者是模拟跑出来的）。

#	P（白话）	点估计	Crux / 节点	证据
1	2028 前无联邦暂停	88%	CX-NO-PAUSE · N1,N4,N11	节点 1
2	2027-12 前筛查成法	40%	CX-BMIA · N2	节点 2
3	Tier-3 先于强制筛查	22%	CX-TIER3 · N2,N10	节点 2
4	险境发生后仍隐藏	55%	CX-HIDDEN · N10	节点 10
5	盗窃后竞赛加速	20%	CX-RACE · N3	节点 3
6	吹哨 → 监督不停训	58%	CX-WHISTLE · N4	节点 4
7	到阈值仍不关停	62%	CX-NO-SHUTDOWN · N4,N11	节点 4、11
8	触发后按最常见反应算，灭绝约	17%	N4 链	节点 4
9	三家云巨头垄断	82%	CX-COMPUTE · N7	节点 7
10	欧盟 GPAI 约束美国	14%	CX-EU-BINDS · N9	节点 9
11	美国治理瘫痪 S2	55%	CX-US-PARALYSIS	节点 6
12	云/软件侧 RSI 优先	55%	CX-RSI-LOCUS · N12	节点 12

同一事件，坏结局 vs 好结局（共享 crux）

事件	若成立 → 灭绝/摩擦叙事	若成立 → 繁荣叙事
BMIA 通过	生物灭绝路径 ↓	U3 制度黄金时代 ↑
2028 仍无暂停	竞赛 / 对齐风险 ↑	U3 窗口缩短；摩擦 ↑
对齐担忧吹哨（事件 C10，最常见那条）	监督不停训	U1 尾治理窗口 vs 竞赛
就业冲击（事件 C4）	严重危机 / 渐亡显著性	分配政策窗口 (U4)，或州级局部响应（见节点 13）

你若主张「crux X 被忽略了」

1. 在上表 Tier-2/3 搜索 ID 或主题
2. 若无 → 说明 主张、P、证伪条件、对四分区方向（按 附录 G 四步法）
3. 若对文首百分比的影响 ≥2–3pp 且能观察 → 该升格；下轮修订会写进 什么会改变我的判断

---

附录 I — 研究流程与证据层级

时间分配规则（canonical workflow）

份额	做什么	产出
~80%	先把 Ci、事件、crux 定义清楚	人人能挑战的共享脊柱
~20%	节点研究：每条 P 填模板	证据索引 各节点页
最后	跑联合模拟	~7/~18/~69/~6 — 算出来的，不是起点

顺序很重要： crux 错了，调再多节点 P 也救不了；crux 对了，后面就是加减账。引擎本身也可能有 bug： 算出来的头条数字不仅取决于 crux 对不对，还取决于机制本身有没有被正确实现（循环前提、变量没接入增长模型这类问题不会体现在任何一条 crux 的 P 上）。发现这类问题不是靠调 crux，是靠追踪具体样本、核对每个变量的轨迹是否符合它声称的机制。

六步流程（与正文章节对应）

步	内容	本文位置
0	结局分区定义	背景 · 我的预测
1	变量、事件、时间表	① 变量与事件
2	Crux 登记	附录 H
3	估 P + 证据页	② 怎么估概率 · 附录 G
4	联合蒙特卡洛	③ 模拟结果
5	证伪跟踪	什么会改变我的判断

证据层级（全文统一标注）

标签	英文	含义	例子
有据	Established	文档、数据、官方法案	METR 倍增周期；参议院 99–1 投票
我们的估计	Our estimate	显式 P + 区间 + 模板条目	P(隐瞒)=0.55
场景	Scenario	AI 2027 情节细节	「2027 年 10 月吹哨」日历
推测	Speculation	弱锚点 + 类比	幽灵 GDP 作治理稳定器

禁止： 把「我们的估计」当论文结论；把「场景」当日历预言。

站内地图

页面	内容
附录 H	完整 crux 登记（Tier 1–3）
p(doom) 证据索引	十二节点、每条 P 的主张与链接
未来证据索引	繁荣路径 U1–U7、平行脊 X3–X7
全部数字	四分区 + 事件边际
ai-futures-sim	配置、脚本、校准文档

合成时禁止做的事

• 从文首百分比 倒推 crux
• 维护两套 Ci 日历（灭绝一套、繁荣一套）
• 灭绝桶 + 繁荣桶 相加 = 100%
• 无事件 / 无 crux 挂钩地加新 P
• 忽略事件在 DAG 里的耦合（见 附录 C）
• 为了让分布好看去反推持续机制的参数 ——持续机制的常数必须锚定在真实文献或数据上，不能靠试出一个能让输出好看的值

更新协议（living forecast）

1. 可观察信号变化（什么会改变我的判断）
2. 先动 crux P（若 warranted），再动节点边际
3. 沿因果边 E1–E10 传播（因果链）
4. 重跑 ai_futures_sim → 更新文首数字
5. 在 什么会改变我的判断 记下日期和改了什么

计划 2026-12 全文核对。

---

更多证据与工具

入口	内容
未来预测证据索引	风险节点 N1–13 · 繁荣 U1–U7 · 自主武器、教育、行政、科学、再分配
全部数字	四分区 + 事件边际
ai-futures-sim	配置、脚本、校准文档