神经伦理课上,大家很快就同意一点:今天的脑机接口主要是 recovery,不是 enhancement。人工耳蜗恢复听力,深脑刺激治帕金森,FDA 路径围绕疾病适应症搭建。
然后有人提到体验机——Nozick 那个给你任何想要人生的缸——教室就分裂了。少数 utilitarian 说:若 wellbeing 是唯一要紧的,plug in 吧。其他人本能拒绝:真实的友谊、真实的成就、与真实世界的接触,似乎重要,哪怕 qualia 完全一样。
那个分裂从未消失,只是变响了。Neuralink 已在人体植入可写入型 BCI。前沿实验室谈与 AI 融合。Longtermist 文本把「后人类」未来写成 AGI 项目的意义。最近一个朋友也说:若 BCI 足够强,你可能按不了「取下」——耦合系统变成行动主体,术前的你被替换,不是升级。
这篇文章是一张地图:「后人类」到底几种意思、治疗/增强为何在哲学上胶着(不只是监管)、体验机如何接到 BCI 耦合、以及忒修斯之船怎么突然成了工程问题。
「后人类」至少是三个不同项目
谈伦理前先分流:
| 脉络 | 核心主张 | 典型名字 |
|---|---|---|
| 超人类主义 posthuman | 应增强;后人类存在模式可以极好 | Bostrom, More, Kurzweil |
| 批判性后人类主义 | 解构人/自然/机器二元;反人类中心 | Haraway, Braidotti |
| 科幻/文化 posthuman | 上传、数字心智、后生物文明 | Egan, Vinge |
Cyborg 不同义。Haraway 的 cyborg 是边界模糊的政治隐喻。Clark 的 natural-born cyborg 是延展心智:我们早已通过工具思考。AI alignment 圈里「cyborgism」又常指 人–AI 协作认知——第四种用法。
若不先分清定义,后人类伦理讨论会一直鸡同鸭讲。
谁支持、谁反对?
不是单一舆论场。 三条活跃战线:
- Transhumanist — 增强在道德上可接受且常值得追求;后生命可以极好(Bostrom, 2008)。
- Bioconservative — 治疗是恢复;增强是僭越本性,腐蚀尊严或本真(Sandel, 2004;Fukuyama;Habermas)。
- Critical posthumanist — 既不固守「人性」,也不拥抱硅谷升级叙事;问权力在谁手里(Haraway, 1985)。
主流神经伦理与临床 默认偏 bioconservative:治疗优先,增强需额外论证。不是因为哲学家证明了增强错误,而是 正常功能、正义、历史(优生学)、监管惯性 叠在一起。
另一条批判——Gebru & Torres 的 TESCREAL——把后人类乌托邦与 AGI 投资叙事、20 世纪优生学谱系挂钩。你是否买账,它都已是公共讨论的一部分。
治疗 vs 增强:哲学,不只是 FDA
课上为何落在 recovery?
监管故事: 适应症、医保、equipoise。
哲学故事(彼此独立):
| 论证 | 要点 |
|---|---|
| 正常功能 | 医学恢复物种典型能力;增强超越之 |
| 损害 vs 可选之善 | 治病满足消极义务;增强是额外之善 |
| Giftedness | 治疗修运气;增强把生命当原材料工程 |
| 强制/公平 | 增强军备竞赛;钱包分层 |
| 本真性 | 增强改变你是谁;治疗回到你自己 |
Transhumanist 反驳(Bostrom & Sandberg, 2009)很利:边界 leaky。眼镜、疫苗、试管婴儿、对健康矮个子用生长激素都模糊治疗与增强。同一干预可兼二者。他们主张政策不应靠一条画不清的线。
两边可部分都对:边界模糊 且 政治上仍须用。
体验机 vs 缸中之脑
本科生常混为一谈。它们问的是不同问题。
Nozick 体验机(1974 节选):若只有感受要紧,应永远 plug in。他的反驳:我们还在乎 (1) 真正做事,(2) 成为某种人,(3) 接触实在——不只「感觉像」。
Putnam 缸中之脑(1981 节选):怀疑论场景,关于 知识与指称,不是 wellbeing。
课上觉得 make sense 的 utilitarian 不蠢。享乐主义 utilitarianism 确实推向机器。反对者常在跑 Nozick,或 偏好 utilitarianism(尊重反思后拒绝 plug in),或 关系性善 进不了快乐账本。
加上 BCI:可写入植入物调节情绪、记忆、欲望,就是 拔不掉要动手术的 体验机。思想实验工业化。
强耦合、IIT 与「取下键」
Clark & Chalmers (1998) 认为认知延伸到笔记本与环境。Clark 近年工作(2025 Nature Communications)把同一镜头对准生成式 AI:我们已是混合思考者。
强 BCI 耦合 是延展心智的极端增益:
- 读脑 BCI(解码意图):多半仍像工具。
- 写脑 BCI(刺激、编辑、平滑神经活动):可塑性可能把设备织进回路。移除 = 认知截肢,不是合上笔记本。
朋友援引 IIT 是推测性的:若意识附于整合因果结构,道德主体可能是 脑+设备 整体。「夺舍」是夸张说法,更朴素的版本是:agency 可能迁移,术前的人或许无权替耦合后的自我同意。
近期增强 BCI 伦理(PLOS Biology, 2024)区分:
- Bioconservative 本真 — 用设备改变自己背叛固定的真我。
- 存在主义本真 — 反思后认同则 OK;恐怖在于改变欲望由 设备诱导(你想取下,但设备让你想留着)。
这是 Ulysses 问题:你签过字,签字人已经不在了。
忒修斯之船:何时不再是人?重要吗?
逐个换神经元为硅。换船板。哪一块开始不再是同一条船——或同一个人?
Parfit 式:心理连续比 identity 事实要紧;「同一人」可能是错问题。
Bioconservative:连续不够;跨越人性尊严阈值仍错,哪怕记忆在。
政策式:或许不必先解形而上学。保护 关闭键、撤回权、默认非写入、可维修——不管耦合实体是否「还是你」。
Illich 的 Tools for Conviviality 加一条设计判准:友善工具 可逆;工业工具锁住你。安全拔不掉的 BCI,在任何单一道德理论失败之前,先失败友善性。
物种歧视与 AI safety 的交叉
Peter Singer 的 物种歧视:只因物种成员身份就折扣利益。原则是 利益的平等考量,不是相同待遇。
对齐圈里你会听到:
- 基质主义(Substrateism) — 因硅基否认可能有利益的 AI 的道德地位。
- 后人类等级 — 增强后人类 vs 未增强人类的新种姓。
- TESCREAL — 后人类天文价值边缘化当下人类与动物。
这些辩论 没结束。大语言模型意识指标(Butlin et al., 2025)、神经权利、动物福利法都在动,哲学系还在争 Nozick。
我目前的立场(暂定)
我不认为「后人类」是单一研究项目,也不认为增强伦理在课上被解决了。
未来十年承重的问题很具体:
- 耦合强度 — 读 vs 写;可拆 vs 织入。
- 跨时间的同意 — 自我可编辑时的尤利西斯契约。
- 治疗/增强 — 政治上必要、哲学上模糊。
- 取下键 — 友善性作为跨意识形态底线(Illich 遇神经权利)。
- 物种/基质边界 — 若我们造出可能有利益的系统,AI safety 不能无视 Singer 式论证。
在争论是否该 成为 后人类之前,应先问:谁设计耦合、退出是否真实、耦合系统投票时算谁的利益。
来源
- Bostrom, N. (2008). Why I Want to Be a Posthuman When I Grow Up.
- Bostrom, N. & Sandberg, A. (2009). Ethical Issues in Human Enhancement.
- Sandel, M. (2004). The Case Against Perfection.
- Haraway, D. (1985). A Cyborg Manifesto.
- Clark, A. & Chalmers, D. (1998). The Extended Mind.
- Clark, A. (2025). Extending Minds with Generative AI.
- Nozick, R. (1974). Anarchy, State, and Utopia 体验机节选.
- Putnam, H. (1981). Reason, Truth and History 缸中之脑节选.
- Singer, P. (1989). All Animals Are Equal.
- Gebru, T. & Torres, É. (2024). The TESCREAL bundle.
- PLOS Biology (2024). BCIs for cognitive enhancement.
研究笔记:notes/posthuman_ethics_map.md;PDF:readings/posthumanism/。