AI 还没来到身边时，我们觉得它很遥远；等它的车轮真正碾过生活，才发现疼痛已经具体到了每一个人。
我用这句话概括一种感受。它不是一条已经核实出处的名人名言。过去，人们谈 AI，常常是在谈一个将来；现在，工作方式、知识的价值，以及人怎样证明自己的能力，都已经开始变化。
但我更在意另一面：如果 AI 带来的不只是效率，而是原本没有的治疗机会、材料和科学发现，人类会怎样重新衡量风险？一个人面对抽象的技术风险，和面对自己只剩几个月的生命，恐怕很难给出同一个答案。
一、当突破开始超出我们的理解速度
最近 OpenAI 公布的数学成果，让这个问题变得更加具体。2026 年 9 月 8 日，OpenAI 发布了关于 Navier–Stokes 千年难题的结果，称其内部系统给出了证明，并提供论文和 Lean 形式化证明。[1] 10 月 6 日，它又集中公开了一批数学成果及部分形式化证明，并在后续更新中提出支持数学界审查、理解和发展这些结果。[2]
这里必须把几件事分开：机构发布结果、形式化系统检查证明、研究者理解证明，以及学术共同体评估成果的意义，各有各的工作。不能把一条发布消息直接写成“所有争议都已结束”，也不能因为人类尚未充分理解某项结果，就自动断言它不可能成立。
这让我想到一个越来越现实的局面：我们可能先获得有用的结果，随后才逐渐建立对它的理解。问题是，验证能不能跟上生成？如果生成一个答案比可靠地检查它便宜得多，瓶颈就会从“谁能提出答案”移到“谁能判断答案值得相信”。
数学至少有相对明确的形式化验证路径。药物和材料还必须走进物理世界：一种结构可以被预测出来，不代表它已经能稳定制造；一种分子可以表现出潜力，不代表它已经能安全治疗患者。发现、验证和应用，是不同阶段。
二、那个“你到底吃不吃”的例子，原文是什么？
我记得一个极端设问：假如你已身患绝症，AI 给出一种人类尚未完全理解的治疗方案；尝试还有一线希望，不尝试就没有希望。你会不会接受？
核对资料后，找到的相近出处，是 Geoffrey Hinton 于 2020 年 2 月 20 日提出的黑箱外科医生思想实验：在设定中，AI 医生的治愈率高于人类医生，但不能解释自身如何工作。他追问，这是否足以成为禁止它的理由。[3] 原帖讨论的是可解释性与疗效的关系，并不是一款已经研制成功、却无人看得懂的抗癌药。
因此，本文的“绝症患者面对未知药物”是我对这个问题的进一步设问，不能当作原话，也不能当作临床案例。尤其是“不吃就毫无希望”，只属于这个极端假设，不能拿来概括现实中的晚期癌症。
即使在假设里，我也很难轻易责备那个愿意尝试的人。对他而言，眼前的损失已经非常确定，治疗的收益却可能是剩下的全部未来。一个健康的人要求更多时间验证，和一个正在失去时间的人要求尽快尝试，背后是完全不同的处境。
但这个故事藏着一个前提：所谓“还有希望”，究竟来自可靠证据，还是只来自模型自信的说法？有一定证据但机制尚不完全清楚，与连有效性都未证实，是两种不同的未知。不能借前一种情况的合理性，为后一种情况背书。
这也让我警惕：当 AI 拥有足以拯救全人类的能力时，它也可能同时拥有毁灭全人类的能力。
三、真实的 AI 药物，比神奇故事更值得关注
一个可以核实的例子是 rentosertib。2025 年发表于《Nature Medicine》的随机、双盲、安慰剂对照 IIa 期研究，测试了这一借助生成式 AI 发现和设计的候选药物，用于特发性肺纤维化。试验纳入 71 人、治疗观察期为 12 周，报告了值得进一步研究的结果。[4]
它不是这里设想的抗癌药。这项研究也不等于已经证明长期疗效，或完成上市所需的全部验证。它的重要性在于：AI 参与发现的候选方案，已经能够进入由患者数据检验的临床研究，而不是只停留在模型输出里。
材料领域也有类似的边界。Google DeepMind 在 2023 年介绍 GNoME 时，报告了约 220 万种预测晶体结构，其中约 38 万种被认为是更稳定、值得实验探索的候选。[5] 这些数字代表搜索和预测能力的扩展，不能直接换算成同等数量的成熟工业材料。
我期待的是这些工作逐步兑现，而不是把候选结果提前算成人类已经得到的收益。真正能改变公众态度的，终究是可重复的实验、可靠的治疗和买得到、用得起的产品。
四、人类会忽略风险，还是重新排列风险？
我最初的直觉是：面对足够大的利益，人类天性会忽略安全。想得更深一点，这个说法过于绝对。更准确的描述可能是：当收益足够切身、等待的代价足够高，人会改变自己愿意承担风险的程度。
延后使用一项技术也有代价。如果某种治疗最终确实有效，等待期间未能获益的患者，同样不能从讨论中消失。但“可能救命”也不应成为免于验证的理由，否则希望越强烈的人，越容易承受虚假承诺的伤害。
我的担心是，具体的收益与分散的风险很难在同一场讨论里获得同等分量。一位患者重获生活，可以被看见；某种能力普及后增加的事故或滥用概率，却很难对应到一张明确的面孔。决策者可能因此低估风险，也可能用遥远风险忽视眼前痛苦。两种偏差都值得警惕。
所以，争论不能停在“支持进步”或者“重视安全”。还得追问：收益是谁的，风险是谁承担的？证据由谁提供，失败由谁解释？如果受益者与承担代价的人不是同一群人，单纯计算总收益就会漏掉最重要的问题。
五、能研发救命药，就能研发伤人的东西吗？
这个担忧有现实依据。2022 年，《Nature Machine Intelligence》发表的《Dual use of artificial-intelligence-powered drug discovery》讨论了药物发现 AI 的双重用途，展示了相关技术被用于生成潜在有毒分子候选的计算概念验证。[6]
这项工作支持的是一个有限但重要的判断：服务于治疗的计算能力，存在被转用于有害目的的可能。它不是一次实际武器制造演示；分子层面的化学风险，也不能直接等同于具有传播能力的生物武器。把这些阶段混成一句“AI 已经能制造生化武器”，反而会削弱讨论的准确性。
但是，不能因为现实伤害还需要实验条件、材料、设备和专业能力，就认为计算环节的进步无关紧要。我的判断是：只要某项技术减少了原本困难的探索工作，就值得重新评估后续环节的防护是否仍然足够。我们需要讨论能力如何抵达现实，而不是只看聊天界面会不会拒绝一句危险问题。
从安全研究的角度看，这意味着边界要覆盖整条使用链：模型能接触什么资料、调用什么工具、提交什么实验任务，谁有权批准行动，以及异常发生后能否追溯和停止。把安全全部压在模型的一次回答上，很难应对逐步累积的风险。
六、一个人的“我愿意”，不能替所有人签字
这里是我认为最重要的分界。患者在知情条件下，选择承担与自身治疗有关的风险，是一个问题；为了推进某项能力，让许多没有参与选择的人承担更大风险，是另一个问题。
前一个问题里的同意，不能自动成为后一个问题里的同意。一个人愿意尝试实验性治疗，并不意味着他愿意让相关技术在任何场景下不受限制地使用，更不意味着其他人已经接受了这些后果。
同样，某个 AI 系统在数学上表现出色，也不能替它在医学、安全或现实操作中的可靠性担保。信任需要落在具体任务、具体证据和具体边界上，不能从一个令人震撼的成功无限外推。
我倾向于接受一种有边界的做法：允许在证据支持的范围内推进应用，同时要求独立验证、明确责任、持续监测，以及在出现问题时确实能收回的权限。可解释性尚不完整，不必自动封死所有用途；但无法完全解释，也不能成为放弃检查的借口。
七、当我们越来越离不开它，谁还能说“等一下”？
更深一层的风险，可能出现在成功之后。如果 AI 确实让我们更健康、更高效，又越来越多地承担关键工作，暂停使用它的代价也会随之增加。到那时，一项新风险即使被发现，人们也可能因为无法承受退出成本而继续依赖它。
这是我的担忧，不是已经注定的结局。应对它，需要在便利形成依赖之前保留选择：让关键结果能被外部检验，让系统能被替换，让人类保有必要的知识和行动能力。否则，我们可能在一次次合理的局部选择之后，走到一个很难再作选择的位置。
因此，我不会简单断言，人类到那一天一定无法接受风险，或者一定会把风险抛到脑后。人类很可能接受更多风险，但这不等于所有风险都应该被接受。能否接受，取决于证据、代价、替代方案，以及谁有权决定。
当 AI 真能拿出救命的方案，最难的问题或许才刚刚开始：我们能否在真心希望它继续进步的同时，仍然保留检查它、限制它、必要时暂停它的能力？
我希望那时我们有资格说：我们接受这项风险，是因为看清了它，而不是因为已经没有别的选择。
出处与核实说明
本文是观点文章，事实依据截至 2026 年 11 月 10 日核对。开篇“车轮”的表达未找到可靠原始出处，作为个人感想改写。绝症患者与未知药物的情节明确为思想实验，不是用药建议，也不是已发生的治疗案例。
- [1] [OpenAI：On the Navier–Stokes Millennium Prize Problem](https://openai.com/index/navier-stokes-solution/)，2026-09-08。本文按机构发布内容描述，不据此宣称奖项认定或全部独立审查已经完成。
- [2] [OpenAI：Sharing AI progress in mathematics](https://openai.com/index/sharing-ai-progress-in-mathematics/)，2026-10-06，含 10 月 15 日更新。
- [3] [Geoffrey Hinton 原帖链接](https://twitter.com/geoffreyhinton/status/1230592238490615816/)，2020-02-20。原帖当前未能直接读取；通过 [InfoQ 2020 年报道及其原帖链接](https://www.infoq.com/news/2020/03/explainable-ai-survey/)和[保留原帖截图的教学材料](https://ai.ethicsworkshop.org/Library/AI-Case-Disease.pdf)交叉核对。本文使用概述，没有把“未知抗癌药”归为 Hinton 原话。
- [4] [Xu 等：A generative AI-discovered TNIK inhibitor for idiopathic pulmonary fibrosis: a randomized phase 2a trial](https://www.nature.com/articles/s41591-025-03743-2)，Nature Medicine，2025-06-03。
- [5] [Google DeepMind：Millions of new materials discovered with deep learning](https://deepmind.google/blog/millions-of-new-materials-discovered-with-deep-learning/)，2023-11-29。
- [6] [Urbina 等：Dual Use of Artificial Intelligence-powered Drug Discovery](https://pmc.ncbi.nlm.nih.gov/articles/PMC9544280/)，Nature Machine Intelligence，2022-03-07。引用其双重用途结论，不将计算候选描述为经实验证实的武器。