Jensen Huang: The Doomer Hoax, Superintelligence Is Here, and The Future of AI (ft. President Trump)

GPU 先看到未来

主持人说，这期节目是为 Jensen Huang 提前安排的，并介绍他是 NVIDIA 的创始人兼 CEO。主持人称 NVIDIA 收入同比增长百分之九十七，还把 GPU 比作时间机器，因为 GPU 能让人更早看到未来。这个比喻也定下了全场基调：如果技术能让人提前看到变化，就应该更早讨论怎样塑造那个未来。

接下来，主持人请 Jensen Huang 解读 Dario Amodei 的文章，以及前沿实验室围绕文章形成的反应。Jensen Huang 的第一句话不是否认安全，而是强调安全必须被认真对待。他认为安全、领导力、快速创新和执行并不是互相排斥的选择。

Jensen Huang 把文章中的问题分成两层。第一层是内部控制，尤其是一位名叫 Coxon 的吹哨人。他认为吹哨是严肃事项，提出担忧需要勇气，也应该认真对待。第二层是对未来的科学预测。对于这部分，他认为即使说话人是科学家，预测也可能没有建立在科学基础上，所以不能自动获得科学结论的地位。

他推测，前沿实验室正在从研究转向工程，而研究和工程并不是一回事。如果这个转型过程很笨拙，就可能出现控制问题。但他也明确承认，自己不知道 Coxon 具体看到了什么，最终只有 Coxon 知道。内部控制问题需要查清楚，关于未来的预测则需要单独检验，不能把两者混成一件事。

主持人说，普通人很难理解文明毁灭究竟是什么意思，更难理解百分之十的灭绝概率意味着什么。Jensen Huang 的判断很强烈：这类灭绝预测是编造的，把它们公开说出来，既令人担忧和困扰，也是不负责任的观点。

他的论据是回看过去的预测。他提到，曾有人预测五年内放射科会被人工智能完全接管，世界上不再有放射科医生；也有人预测六到十二个月内百分之九十的代码会由人工智能生成；还有预测认为六到九个月内百分之五十的入门岗位会消失。Jensen Huang 说，在他看来，这些预测后来都被证明错误。

主持人还列出了几代模型的安全性预测，以及白领工作会在次年大幅消失的说法。这里的重点不是简单地把一种预测换成另一种预测，而是提出一个方法问题：如果过去的确定性判断经常落空，今天就不该把未经验证的未来预测直接当成事实。

专家信任与公司文化

主持人把争论概括为两种态度。一种是相信专家，另一种是回看历史预测，用更有方法的方式思考。Jensen Huang 并不否定前沿公司的工程师和研究人员，反而肯定他们拥有杰出人才，也做了出色工作。但他认为，这些公司应该更多在内部、安静地建设，而不是让个人公开表达变成公司的立场。

按 Jensen Huang 的说法，NVIDIA 要求员工不要在公开平台代表公司发言。NVIDIA 的文化强调一致、稳定、持续贡献、照顾家庭，并尽可能低调地工作。他还说，公司不欢迎内部政治话语，种族、宗教和政治讨论应放在公司之外，并把 NVIDIA 描述为无党派、与两党合作的公司。

这套文化观念和他的安全观相互连接：复杂系统需要稳定的组织、清晰的边界和持续的责任，而不是每一次情绪化表达都变成公司的公共立场。

Jensen Huang 认为，监管应该解决实际问题，而他判断当前最实际的问题主要来自拥有最多算力的前沿实验室。因为这些实验室正在解决前沿问题，所以风险也更可能集中在那里。普通高中生或一般初创公司通常没有同等算力，不能简单地被放在同一层面讨论。

节目谈到一个实验室的四起事故，以及另一个实验室的一起重大事故。Jensen Huang 的建议不是停留在谁该被责备，而是从工程角度做根因分析：发生了什么，哪些地方本来可以做得不同，接下来要把哪些技术、方法和流程制度化，避免同类事故重演。

他还推测，相关实验室可能已经有更好的沙盒、运行时、监控和持续监控技术。随着研究成果进入工程系统，控制、测试、监测和复盘都必须变成可重复的流程。Jensen Huang 的判断是，实验室真正需要的不是把所有问题笼统交给监管，而是把事故转化成可以修复、验证和持续管理的工程问题。

RSI 如何被控制

节目提到一家中国实验室及其创始人筹集资金，计划让人工智能训练下一代人工智能，并尽量自动化相关工作。对话中出现了三十亿美元和五十亿美元两个融资数字，这些都是节目中的转述。

Jensen Huang 将递归自我改进，也就是他所说的 RSI，描述为一组方法的组合，包括上下文信息、技能、反思、强化学习和合成数据生成，也提到可以改进权重的低秩适配方法。这里的递归自我改进不只是一个听起来神秘的口号，而是把多种改进方法组合起来，让系统在解决任务时不断获得更好的表现。

但 Jensen Huang 认为，公司内部持续做递归自我改进，并不等于产品发布后会失控。因为发布前仍然要评估、重新测试，并检查回归，也就是新版本是否损害了原有能力。他预测，随着实验室从研究转向工程，方法、知识、实践、工具、技术、验证和评估会带来更好的控制。内部迭代与对外发布之间，由测试和评估隔开。

Jensen Huang 认为，世界同时需要闭源模型和开放模型。他说自己一个周末使用过四个闭源模型，把闭源模型比作瓶装水：水本身可以免费获得，但不同场景仍然会选择不同的供应方式。开放模型则能服务于主权、隐私和专有技术需求。

他还声称，过去六个月有四千亿美元风险投资进入 AI 原生公司，其中百分之八十使用开放模型。这个金额、时间范围和比例都是 Jensen Huang 的说法。他的推理是，开放模型让更多美国公司、行业、研究者、教师、学生和初创公司参与 AI 竞争，不必只等待少数前沿实验室提供完整答案。

在他看来，开放模型的意义不是取代闭源模型，而是扩大参与面。有人需要成熟的封闭服务，有人需要下载、修改和部署能力，两种模式可以同时存在。Jensen Huang 的判断是，AI 如果要成为一场广泛的产业变革，就不能只有少数公司参与。

中国叙事与编码之后

Jensen Huang 认为，中国贡献了当前开放源代码的很大部分，并把它归因于工程师和理工科学生规模较大。他用 Linux 和 Kubernetes 举例：软件被下载之后，使用者可以分叉、改进，再按自己的方式使用。

由此他提出一个更大的判断：AI 竞争的核心不是谁最先发明技术，而是谁能把技术利用得最好。他用上一轮工业革命作对照，强调发明者和最终把技术转化为生产力的人，未必是同一批人。他还认为，中国关于 AI 的叙事更务实，较少使用文明终结和灾难性语言，而是把 AI 看作推动经济和社会发展的技术。

随后，他把这个判断延伸到工程师的工作。Jensen Huang 预测，工程师未来不必把大部分时间花在打字，也就是编码上，而会投入更多工程工作。他把编码戏称为打字，偏好退格键，因为在他的表达里，好的软件往往更小。编码减少，并不等于工程消失，工程师仍然要做设计、判断和系统建设。

总统特朗普在电话中说，关于 AI 的一些说法几乎像阴谋论，并把整件事称为骗局。他认为机器人不会接管世界，AI 也不会接管世界其他部分，同时强调发展应该谨慎、审慎。

特朗普把数据中心与财富和国家竞争联系起来，称数据中心是未来二十到二十五年的石油。他提到芬兰有数据中心建设计划；另外，他还说，一些原本衰败的社区会因为拥有数据中心而变富。前者说的是芬兰项目，后者是他对其他社区的概括。他说“谁赢，AI 就赢”，要让美国每个行业、公司、州和个人都在 AI 竞争中获胜。

特朗普还声称，一年有二十万亿美元投资进入美国，而拜登任内四年期间低于一万亿美元。在特朗普看来，AI 基础设施既是产业投资，也是国家竞争的组成部分。

AI 安全测试与独立评估

电话结束后，Jensen Huang 又把安全问题落到制度上。他说，关于 AI 的公共叙事先后围绕国家安全和安全问题展开。如果希望 AI 更安全，首先要确保建设它的实验室处于控制之中，并且有良好的测试。

他还建议引入第三方评估者，而且最好不只一个。Jensen Huang 用财务审计作类比：评估者不一定比企业更懂企业的每个细节，但要能够提出正确的问题。多个评估者或审计者可以降低单一公司受到影响的风险。

所以他的主张并不是停止建设，而是安全地构建、安全地测试，并用更高标准要求这些影响巨大的公司。安全在这里不再只是抽象口号，而是测试、评估和相互制衡的工作流程。

Jensen Huang 认为 AI 正在创造大量工作，并把就业、再工业化和能源供应联系起来。他再次提到最近六个月有四千亿美元风险投资进入 AI 行业，并认为这会带来软件工作、算力需求和数据中心需求。

他转述得州州长的意见：建设数据中心时要更体谅小社区，成为更好的倾听者。数据中心需要土地、电力和机房，也会改变地方社区，所以建设速度不能抹掉地方关系。

这也是他对 AI 产业的一个补充判断：新技术带来的不只是模型和软件岗位，也会带来能源、制造、建设和地方治理问题。技术扩张越快，越需要把承受建设成本的社区纳入讨论。

AI 产业基础设施

Jensen Huang 把 AI 描述为新的工业革命。模型和芯片只是其中一部分，应用、数据中心、建设、电力和发电能力同样重要。人工智能要真正生产出智能，就必须先把承载它的生产系统建起来。

他的做法是在整个生态中寻找瓶颈，并通过上游供应链和下游投资支持计算基础设施。他把土地、电力和机房概括成部署算力前必须准备的条件，也列举 Corning、Lumentum、台积电和存储器公司作为需要支持 NVIDIA 的供应链伙伴。

这套思路的重点不只是购买芯片，而是提前让供应链能够承受未来的规模。对 Jensen Huang 来说，资本配置就是识别哪些地方会卡住，再让这些地方先扩张起来。

主持人认为，超大规模云服务商层面需要更多竞争者，节目中提出五十、一百乃至一千家的设想。Jensen Huang 说自己并不以竞争为目标，并认为五家超大规模云服务商也可以。

他更看重区域云的灵活性。区域云能更快掌握本州或本国的土地、电力和机房条件。节目提到新型云服务、区域云，以及澳大利亚和东南亚的项目。Jensen Huang 还说，澳大利亚和东南亚的项目正在扩展，并以新增两吉瓦和几吉瓦描述建设规模，这些都是他在节目中的说法。

Jensen Huang 还说，NVIDIA 运行越来越多的 AI 模型，列举几家前沿模型公司。他表示，NVIDIA 更愿意帮助所有参与者成功，而不是从每个参与者中切走一块业务。其策略是尽可能向上到客户需要的地方，但尽可能向下保持克制。

他把 cuDNN、Megatron 和 Megatron Core 作为例子，说明 NVIDIA 会先补齐客户需要的基础技术，再让大量公司在其上构建。这种平台策略的目标不是替代所有参与者，而是让生态继续扩张。

开放产品与生物模型

Jensen Huang 说，NVIDIA 会在自身有能力、客户也需要时构建开放产品。他以 Alpamayo，也就是 NVIDIA 的自动驾驶开放产品为例，认为其中的推理能力可能减少对数十亿小时道路数据的依赖。这是 Jensen Huang 在节目中的技术判断，他认为推理能力可能减少对数十亿小时道路数据的依赖。

他的解释是，系统如果能够推理，就能把新场景和过去见过的场景进行比较，不必只靠把所有道路情况都重复收集。由此，他预测汽车、农业设备、卡车和货车都可能自动化，因为许多公司没有能力独立建立完整技术栈。

在生物领域，Jensen Huang 列举 ESM2、ESMFold、OpenFold、AlphaFold 2 和蛋白质复合物项目，并把它们纳入 NVIDIA 构建或支持的相关技术叙述。他还说，这些能力服务于礼来、默克等客户需求。需要区分的是，AlphaFold 2 由 DeepMind 团队开发；节目中的说法是 Jensen Huang 把它列入 NVIDIA 构建或支持的相关技术。

主持人询问埃隆·马斯克宣布的一座名为 Terafab 的超大规模芯片工厂是否可能制造 NVIDIA 芯片。这个设施和规模是主持人在节目中提出的问题。Jensen Huang 认为如果有人能做到，埃隆·马斯克可能做到，并称 NVIDIA 了解工艺技术和大规模内存技术。

Jensen Huang 预测，中国将在二〇三〇年达到先进光刻系统能力，并认为中国擅长高产量制造。他还说，两三年在产业尺度上很短，从中国的角度看，目标仿佛已经接近。二〇三〇年是他的预测，不是确定性时间表。

节目中还出现了百分之十的可能性，但那是配合语境的玩笑式插话，没有被当作严肃预测。真正的论点是，制造能力需要长期积累，而 NVIDIA 需要按照下一个十年甚至更长时间来规划。

主持人与 Jensen Huang 按“和任何人一样聪明”的定义，认为 AI 可能已经处在 AGI，也就是通用人工智能时刻。这里的 AGI 按对话中的定义，指的是系统在整体能力上达到普通人的水平。

Jensen Huang 又把超智能限定到具体领域。对他来说，如果把任务范围缩窄到驾驶，自动驾驶系统不需要会做所有人的工作，只需要把车开好；在蛋白质合成和虚拟蛋白质筛选中，也可能出现类似情况。他把这些系统描述为已经在各自领域超过人类。

对话中还以自动驾驶事故率约为人类十分之一作为例子，来说明这种领域性超智能的判断。最后留下的不是“所有问题都已经解决”，而是一个更具体的定义：系统可以先在有限任务里超过人类，再改变人们对智能边界的理解。

Jensen Huang 表示自己享受处在技术前沿，认为未来很好。他鼓励继续推动 AI 工作，同时降低争论中的戏剧化表达，让更多美国人参与进来。

这句话把整期对话收束起来：安全、测试、工程控制、开放参与和基础设施建设，并不是技术进步之后才补上的附属工作，而是技术能够走得更远的条件。