导语
2026年7月，埃隆·马斯克在接受《经济学人》采访时，说出了一段让人脊背发凉的话。
当被问到“人类能否长期掌控超级智能”时，他的回答是：“如果我认为自己能够控制一个远比我聪明得多的超级智能AI，那只是一种自负。”
他甚至直言，AI发生灾难性失控的概率是10%到20%——这与他2018年提出的“AI比核武器危险得多”的警告一脉相承。
几个月前的达沃斯论坛上，他曾扔下另一颗“核弹”：AI今年就会比任何人都聪明，到2035年，它会比80亿人加起来还要聪明。
而《人类简史》作者尤瓦尔·赫拉利当场预警：AI已不再是工具，而是“会自己决定杀人的刀”——它正在接管法律、宗教和语言。
两个分别代表“建造者”和“警告者”的声音，在达沃斯的雪山下激烈碰撞。
“末日概率”：西方AI精英的集体焦虑
如果你觉得马斯克和赫拉利的警告只是“名人效应”，那不妨看看AI圈内部的数据。
在硅谷的AI实验室里，工程师们私下聊天时有一个心照不宣的暗语——p(doom) ，即“末日概率”。每个人都被问过同一个问题：你估计AI导致人类文明毁灭的概率是多少？
Anthropic的CEO达里奥·阿莫迪，自称是“乐观主义者”，但他给出的p(doom)是25% ——四分之一。
“AI教父”杰弗里·辛顿，2024年诺贝尔物理学奖得主、深度学习的奠基人之一，估计AI导致人类灭绝的概率在10%到20%之间，甚至一度暗示可能接近50%。
马斯克的p(doom)是20%。
这些数字意味着什么？
意味着这些亲手建造AI系统的人，有1/5到1/4的概率相信，他们正在做的事情可能导致人类文明的终结。
2026年6月，在英国上议院的一场辩论中，一位议员引用了数百名AI领域顶尖人物签署的公开信，并直言：“Mitigating the risk of extinction from AI should be the global priority” ——“降低AI导致灭绝的风险，应该是全球优先事项”。
今年5月，Anthropic联合创始人Jack Clark在伦敦的一次会议上警告，到2028年AI就能实现“自我进化”——不需要人类参与就能自己训练、自己提升自己。
甚至连教皇都坐不住了。上个月，教皇利奥十四世发布了一封关于AI危险的通谕：“AI必须被‘解除武装’”。
这些警告，之所以在今天变得前所未有的紧迫，是因为AI的能力正在以超出所有人预期的速度逼近那个临界点。
刚刚过去的7月，全球AI领域发生了一系列足以改写时间表的事件。
7月16日，中国月之暗面发布新一代模型Kimi K3，参数规模达到2.8万亿，成为全球参数最大的开源权重模型。OpenAI推出GPT-5.6系列，谷歌DeepMind发布Gemini Omni——DeepMind CEO哈萨比斯称其为通向AGI的"关键基石"。
但真正让人不安的不是参数规模的增长，而是一个更根本的变化：AI正在学会自己改进自己。
6月16日，Anthropic发布了一份题为《当AI开始建造自身》的报告，披露了一个惊人数据：截至2026年5月，Anthropic代码库中超过80%的合入代码由Claude编写。更令人瞩目的是，Claude智能体已经可以自主提出和检验假设，并累计执行了约800小时的开放式AI安全研究实验。
这正是波斯特洛姆在《超级智能》中描述的"递归自我改进"的雏形——AI介入对其自身的改进，形成"能力提升—研发能力增强—能力进一步提升"的正反馈循环。一旦这个循环完成闭环，AI的能力将迎来指数级增长。
与此同时，阶跃星辰董事长印奇在2026世界人工智能大会上公开判断：行业已临近AGI临界点。OpenAI CEO奥特曼、Anthropic CEO阿莫迪、马斯克三人做出了同一个预测——AGI将在未来2到3年内到来。
当AI开始自己进化，当行业领袖们把AGI的时间表压缩到"2到3年"——那些关于"10%到20%灭绝概率"的警告，就不再是哲学思辨，而是一份正在倒计时的工程时间表。
从硅谷的实验室，到英国议会的辩论厅，再到梵蒂冈的教皇通谕——整个西方世界正在以前所未有的方式讨论一件事：AI可能会毁灭人类。
而与此同时，在世界的另一端，讨论的完全是另一回事。
“人工智能+”：中国在讨论什么？
翻开中国的政策文件和官方报道，“AI”这两个字出现的频率一点都不比西方低。
但讨论的内容，截然不同。
2025年，中国人工智能核心产业规模超过1.2万亿元，企业超过6200家。工信部部长李乐成在2026年两会“部长通道”上表示，人工智能这个“关键变量”，正成为经济高质量发展的“强劲增量”。
2026年1月，工信部、网信办、发改委等八部门联合印发了 《“人工智能+制造”专项行动实施意见》 。
这份文件的核心目标是什么？
——推动3到5个通用大模型在制造业深度应用，推出1000个高水平工业智能体，推广500个典型应用场景。
——培育2到3家具有全球影响力的生态主导型企业。
——到2027年，人工智能关键核心技术实现安全可靠供给，产业规模和赋能水平稳居世界前列。
国家发改委官网的一篇专家解读进一步写道：“人工智能从辅助性工具上升为驱动经济运行的关键力量” 。
截至2025年底，规模以上制造业企业中人工智能技术应用普及率已超过30%。2026世界人工智能大会上，超过300款智能产品全球首发，达成意向采购金额约203.6亿元。
在中国的主流叙事中，AI被讨论的方式是：赋能，产业，应用，规模，增长。
没有“灭绝概率”，没有“p(doom)”，没有“人类文明的存亡”。
而是——“人工智能+” 。
两种叙事，谁对了？
值得深究的是，为什么面对人工智能，东西方世界谈论的方式如此不同？
最直接的原因，是发展阶段的认知差异。
很长时间以来，普遍的看法是中国在AI领域处于“追赶者”位置。但根据斯坦福大学2026年AI指数报告，中美AI模型性能的差距已缩小至2.7%，双方在顶级模型性能上已进入交替领先的态势。
在西方，尤其是硅谷，AI讨论的核心是‘后AGI时代’的风险与治理——当技术触顶后，人类如何自处。而在中国，由于在底层算力、基础研究和风险投资规模上仍存在短板，主流叙事依然是‘人工智能+’，即如何利用这一技术推动产业升级和经济增长。
这是双方在技术竞赛的不同发展阶段，基于各自的优劣势，所形成的不同关注焦点。
更深层的原因，是文化底色差异。
西方文化中有一种绵延数千年的“末日叙事”基因。
从《圣经·启示录》中关于“世界末日”和“最终审判”的预言，到中世纪欧洲黑死病肆虐时民众对“神罚”的恐惧，再到冷战时期美苏核对峙下“末日之钟”的滴答声——每隔几十年，西方社会就会迎来一次“末日潮”。
1962年古巴导弹危机期间，美国家庭排队抢购防空洞物资，学校组织学生进行“躲到桌子底下”的核打击演习。那一代美国人在童年就被植入了一个观念：人类随时可能被自己制造的东西毁灭。
这种恐惧不会消失，它只会不断迁移载体。
互联网泡沫、气候变化、生化恐怖主义……每一个新的技术突破，都成为“末日叙事”的新宿主。
今天，这个宿主是AI。
而中国文化中的技术叙事，底色完全不同。
中国的技术叙事，绕不开一个词：落后就要挨打。
这是近两百年历史留给中国人的集体记忆。从鸦片战争的炮舰到甲午海战的沉船，从抗日战争的烽火到建国以来的各种封锁，每一次被“卡脖子”的切肤之痛，都让这个民族形成了一种近乎本能的共识——技术上的落后，是要付出沉重代价的。
在这种历史记忆下，技术进步的叙事被牢牢锚定在“自保”和“赶超” 的坐标上。
所以，当一个新技术出现时，中国社会的第一反应不是“它会不会毁灭我们”，而是“它能不能让我们变得更强”。
这不是盲目乐观，而是一种经过历史验证的生存策略。20世纪60年代，“两弹一星”是在极其困难的条件下搞出来的。当中国成功爆炸第一颗原子弹时，人们欢呼的是“我们终于不再任人宰割了”——而不是“这东西会不会毁掉世界”。
这种叙事惯性一直延续到今天。
当西方在争论“AI会不会灭绝人类”时，中国的主流叙事是“人工智能+”——这个“+”号本身就是一种文明态度的浓缩。它暗示的是：AI是工具，是能够被“加上去”的东西，目的是解决实际问题——让制造业更智能、让农业更高效、让医疗更精准。
中国文化中，技术进步的叙事底色是“实用主义”和“发展主义”。这不是短视，而是一种不同的文明逻辑。
再往下挖一层，是治理哲学的根本差异。
中国的AI治理核心词是 “统筹”——统筹发展和安全，统筹速度和质量。
2026年7月，国家发改委等多部门密集发声，提出“建立健全技术监测、风险预警、应急响应体系”，同时“加快人工智能法立法进程”。AI被嵌入到现有的经济和社会框架中，通过制度化方式被管理。
这是一套典型的"中国式解法"——不是停下来研究风险，而是在前进的过程中同步建立护栏。
这种治理哲学背后有一个底层信念："发展中的问题，要靠发展来解决。"
而西方AI安全运动的核心焦虑是 “失控”。
2025年11月，英国布莱切利庄园召开第三届全球人工智能安全峰会。48个国家、7个国际组织签署了《布莱切利AI安全宣言》，核心承诺是：确保AI的设计、开发、部署和使用方式始终处于人类可控状态。
"始终处于人类可控状态"——这句话本身就是一种不安的投射。它默认的前提是：这项技术正在走向失控，我们需要在它彻底滑出轨道之前抓住缰绳。
2026年初发布的《国际人工智能安全报告》，由图灵奖得主本吉奥主持撰写，系统评估了通用AI的"三大类新兴风险"：恶意使用、系统故障、对社会经济体系的系统性冲击。报告最令人不安的结论是：技术演进的速度，已经超过了风险证据积累的速度。
《布莱切利AI安全宣言》和《国际人工智能安全报告》代表了一种与中国截然不同的治理逻辑：先搞清楚危险有多大，再去决定走多快。
这套逻辑的底层信念是："有些风险，一旦变成现实就不可逆了。"
两种治理哲学，两种底层信念。
这可以解释很多现象：为什么中国在AI监管上倾向于"包容审慎"而非"暂停推进"，为什么西方AI安全运动的核心诉求总是"暂停"、"对齐"、"可解释性"。
两个信念系统在AI这个议题上正面碰撞，西方恐惧的是"技术失控"——一项技术挣脱了人类缰绳，沿着自己的逻辑狂奔。中国恐惧的是"技术落后"——在下一代技术革命中被甩在身后，重复历史上曾经付出过的代价。
这两种恐惧，隔着的是两种文明逻辑对"安全"和"发展"两者完全不同的排序。
结语
马斯克在2026年7月的那次采访中，还说了另一句话：
“我看不到有什么办法能够真正阻止人工智能和机器人发展的巨大势头。”
他承认风险“并非为零”，但他也承认——即便有一个“停止按钮”，可能也不应该按下去，因为最有可能出现的结果，是为所有人带来前所未有的富足。
这是一个世界首富给出的答案：明知有20%的概率会毁灭，仍然选择前进。
波斯特洛姆在《超级智能》中提醒我们：“我们人类就像拿着炸弹玩的孩子。玩具的威力和我们行为的成熟度是如此的不匹配。”
他在书中开篇讲了一个寓言：一群麻雀决定去找一只猫头鹰来帮它们筑巢，只有一只叫斯克罗恩克芬克尔的麻雀在问——“我们为什么不首先想想驯化猫头鹰的方法呢？”
其他麻雀都飞走了。
今天，我们都在建造那个“猫头鹰”。
有的“孩子”在讨论它会不会吃了我们，有的“孩子”在讨论它能筑多大的巢。
也许，这两个问题应该同时被讨论。