中文深度讲稿 / AI reviewed

David Senra - Sam Altman on Building OpenAI & Betting on the Impossible

2026-08-27 · 7,445 字 · 15 章节

中文音频 边听边读
0:00 0:00
下载

这期节目真正要回答的,不只是人工智能会变多强,而是能力怎样穿过人的习惯、公司的资源选择和社会制度,成为可用又可控的力量。我们沿着Sam Altman与David Senra的对话,拆开这条从技术到行动的链路。

01/15

亲自使用、企业重构与采用惯性

先看Tobi Lütke。Sam Altman认为,这位Shopify Inc.领导者会亲自写软件、试模型,并给OpenAI极其细致的前沿反馈,常比其他CEO领先约六—八个月。David Senra说,Tobi Lütke大约在十八—二十四个月前、可能是二零二四年,就提出先问人工智能能否解决问题;他还预测二零二六年许多企业会被重新构建,希望自己做出AI-native版Shopify Inc.,晚上也在重新设想工作流。注意,这是预测。Sam Altman理解方向,却不确定二零二六年会不会如此彻底。他预计许多软件业务更容易被新进入者争夺,但并非所有行业都被重做;人工智能越强,真实的非技术体验和体育等人类活动反而可能更受欢迎。他也承认,自己在二零二三年高估了软件业立刻被颠覆的速度。客户会继续买熟悉的产品、沿用熟悉的工具,经济与行为惯性让社会适应慢于技术,变化可能落在二零二六年,也可能拖向二零四六年。亲自动手能更早看见机会,但大规模采用仍需要时间。

David Senra据此追问,连发明和最早使用人工智能的人是否也会受旧习惯束缚。他用两个历史例子把阻力说得更具体。他转述Larry Ellison在一九八零年代的看法:软件已经装好,真正困难的是让客户改变行为。Netflix, Inc.开始邮寄DVD后,仍有人照常去Blockbuster,也说明技术人员常低估习惯。于是,企业竞争有两条同时运行的曲线:模型能力可以很快上升,人的采购、信任和工作方式却缓慢迁移。

这也是Sam Altman为何强调,CEO若不亲自使用工具,就很难获得技术边界和工作流变化的一手感觉,更难判断。

判断优先级也因此改变。

02/15

从旧工作流到尚未到来的产品跃迁

有趣的是,连Sam Altman本人也被旧习惯困住。他说自己用了约二十年同一种电脑工作方式:在消息应用间复制内容、刷邮件、维护待办清单。明明Codex能更快完成不少事情,实际行为却仍把手动操作当成“工作”和“生产力”。他认为,我们正站在传统电脑与AI agent之间,不知道什么时候该自己点、什么时候该交给代理,这首先是产品设计没有解决的问题;更无缝的产品可能逐步改变工作流。Sam Altman认为人工智能需要的技术部件已经大体齐全,并把今天比作约二千零三或二零零四年的智能手机:Palm Treo、T-Mobile Sidekick已经有很多部件,却还没出现iPhone那种重塑交互的整体跃迁。David Senra提到Josh Kushner把Sam Altman与Steve Jobs相比,并借一则MacBook评审故事追问Sam Altman是否也主要从自己的需求出发改进产品:原定约一小时,Steve Jobs很快就用“开合能否像开关一样即时”定下标准。领导者的直接体验,有时比长篇汇报更能暴露产品缺口。Sam Altman则说,他目前仍把大部分精力放在研究和Compute上,只希望未来能给产品更多时间。

这就是为什么“技术部件已经存在”还不够。只要用户每天还要判断该让代理做什么、该自己点击什么,新工具就没有真正接管工作流。Sam Altman期待的产品,不只是更强模型,而是把界面、上下文和代理能力组合起来,让新行为自然胜过旧行为。他并不知道转折点何时出现,因此只说改变正在逐渐发生,而不是宣布iPhone式时刻已经到来。

所以,产品跃迁首先是行为设计问题,而不只是模型参数继续增长。

03/15

模型、算力与幂律研究下注

Sam Altman把OpenAI的高杠杆任务压缩成两件事:造出更聪明的模型,让大量用户有足够Compute运行它。Compute建设牵涉合作、融资、芯片、晶圆厂、机架、电力、政策、物流和供应链,他甚至形容这“可能已经或正成为历史上最昂贵的基础设施项目”;这是他的判断。研究管理则像早期投资,要找非共识赌注、指数增长和异常人才。他认为投资与人工智能研究都服从Power law,最好的单个结果可能超过其余结果总和。OpenAI在二零一五年追求Artificial general intelligence时遭到强烈批评,后来押注Large language model又被认为不合理。但只要成功价值极高,高失败风险仍可接受。与数千个照片分享应用相比,他宁愿寻找两三个真正新颖、可能失败的方向,也不愿给流行思路包一层薄壳。优秀研究者和创始人往往非共识、高能量,也愿意坚持不受欢迎的观点。资源因此不能平均分配,而要追踪少数可能形成巨大结果的离群点;不过,非共识不等于必然正确,仍要判断增长证据、人才和Compute约束。

David Senra又转述Demis Hassabis的判断:即使前沿大实验室只剩少数,独立研究者仍可能从无人考虑的角度突破。他用“像修士一样独自研究的人”作极端例子,并随口抛出百分之十;Sam Altman只同意可能性存在,没有给出概率。大型实验室的资本和基础设施优势很强,却不能从逻辑上排除边缘路径,这正是非共识研究与Power law共同留下的空间。

真正的管理难点,是在巨大潜力和有限资源之间持续校准下注。

04/15

从人工智能研究者、投资者再回到创始人

Sam Altman从小喜欢电脑和科幻,周五晚上常玩电脑、读或看科幻,大学时进入人工智能实验室。大一到大二之间,一位教授告诉他Deep learning已经长期失败,继续研究会损害职业发展。他接受了建议,转向别处,并在约二零零五年觉得人工智能没有进展。David Senra从二零一五年前后的选择问起,Sam Altman说,后来偶然进入创业领域并真正爱上它,而创业和投资经验又帮助他经营OpenAI。他希望余下职业生涯继续现在的工作,而不是把投资当作半退休路径;这仍是个人意向。投资者转回经营者的好处,是积累大量关键决策样本。一个经营者在过去五或十年里,也许只经历少数战略大转向或在混乱中更换高管;投资者却能反复观察不同公司。Sam Altman做高风险决定时,会回想类似公司与创始人过去做对或做错了什么。但他也强调,模式识别不能替代日常运营,亲自经营远比投资困难。投资提供地图,最终仍要由经营者在信息不全时承担后果。

David Senra也说,制作Founders约十年,让他能调用Andrew Carnegie、John D. Rockefeller等历史创业者的做法,像一个在创业史上训练、温度调高的Large language model。但案例不是配方:同一原则落到不同创始人身上,要看个性与目标。Sam Altman的路径因此形成闭环——早期研究选择受权威影响,创业训练执行,投资扩充样本,最后又回到人工智能组织。

这条路径并不常见。

05/15

乐观、不可能任务与科学丰裕愿景

为什么Sam Altman会回到一个被认为不可能的方向?他的回答是:很多电脑爱好者都觉得人工智能很酷但做不到,而他听到“不可能”时,会追问为什么不能试。越不可能的事越吸引他,因为人工智能能赋予个人能力,而个人赋权正是技术发展的长期弧线。St. Louis童年的电脑兴趣是背景,不过他先提醒,成年工作可能重写童年记忆。他仍记得学校机器人俱乐部,也记得夏令营里由电脑控制的小海龟机器人;吸引他的,是软件可以驱动物理世界。面向未来,Sam Altman预测,人工智能推动科学发现、发现新物理、治疗疾病和推进数学,可能比一般任务自动化更重要。它也许帮助人类理解更多事物,走向The Beginning of Infinity和Star Trek式的繁荣与丰裕。这里的乐观并不是保证成功,而是把“不可能”变成可实验的问题;科学发现和丰裕都仍是愿景,不是已经发生的结果。

David Senra还讲到Claude Shannon与Alan Turing的早期愿望。Claude Shannon 的口述史支持 Alan Turing 在一九四三年访问 Bell Labs 时与他讨论机器智能;Alan Turing 档案则支持 Turing 公开讨论机器推理与诗歌。至于David Senra所说“一九四零年代预测约十五年后出现超人电脑”,以及数学、诗歌、治病三项共同清单,仍只是他的转述。Alan Turing公开论述确实涉及机器推理与诗歌。Sam Altman认为今天系统已能参与数学发现、也会写诗,只是诗还不够好;他感叹两位先驱若能看到今天,会很有意义。

这条路线把童年兴趣、科学使命和个人赋权连成了同一条长期叙事。

但结果仍是愿景。

06/15

人类连接与两种权力风险

David Senra预测,人工智能在音乐、播客上可能做到与人类相当甚至更好。但即使两个AI agent的节目更有趣,听众仍可能因为在意真实人物而选择人类对话。于是,纯参考型内容更容易被替代,依赖人物关系和连接的内容反而可能升值。Sam Altman赞同,人类会持续寻求与他人的互动;两人也偏好实体书、电话或当面交流,而不只依赖Zoom Workplace。谈到治理,Sam Altman把风险分成两类:一是人类失去对过强系统的控制,二是权力集中到单一公司、模型或个人。他主张人应掌控未来,不能因为不信任人类,就把世界决策权交给模型。他反对以治病、廉价商品和娱乐为交换,要求公众放弃自治的“仁慈独裁者”方案;恐惧既可能让人用自由换安全,也可能替权力追求提供理由。但这不代表忽视危险。他仍建议每个技术阶段都谨慎行动,在不确定时偏向安全。安全与自由不是二选一,治理要同时防失控和中心化。

这里,媒体偏好和治理其实连在一起。人们若仍珍视真人、关系和面对面生活,社会目标就不能只剩模型分数、低价商品或娱乐供给,还要保留选择与参与。失控风险要求能力越强越谨慎;中心化风险要求安全不能成为少数主体永久垄断决定权的理由。Sam Altman的立场是让技术扩大人的行动空间,而不是用一个自称更懂人类的系统替人类生活。

07/15

用真实部署建立安全反馈回路

Sam Altman不接受“AI safety不可解决”的断言。他说,过去有人确信十年内不会出现类似Artificial general intelligence的系统,又认为一旦出现就必然毁灭世界;而OpenAI已经造出按当年标准很像Artificial general intelligence的系统,极端灾难并未出现,判断就应随现实更新。他主张Iterative deployment:把模型受控地放进真实世界,观察合理用途、Guardrail过严、AI alignment失败和安全系统失效,再改进产品与安全。Sam Altman称,ChatGPT在不到四年里达到每周约十亿用户,并认为总体表现安全;他判断,这种学习不可能只在象牙塔中完成。但他也预测后续挑战更难。能力越高,未知未知越多,开发者越要判断何时延迟、何时继续研究、何时接触现实。他用Federal Aviation Administration和事故报告制度作方法类比:故障要被记录、复盘、共享,才能成为下一轮改进的证据。即使模型仍会幻觉,受控部署也能让社会体验技术、让用户获得能力,而不是由实验室单方面决定世界观。

Sam Altman给出的部署理由有三层:让社会逐步体验技术,学习怎样提高安全,把能力交给用户而非只留在实验室。社会与模型还会共同演化,所以实验室无法提前枚举所有影响。出现问题后,他主张给出清晰复盘,并把所得分享给其他人工智能建设者。换句话说,发布不是终点,而是获取现实反馈的开始;能力越强,接触现实的范围和节奏越需要重新判断。

而非一次定论。

08/15

恐惧叙事、创业赋权与行业教育

为什么人们一边用人工智能,一边害怕它?Sam Altman认为,面对快速社会经济变化,人类天然会恐惧、怀疑并依赖惯性,Industrial Revolution等转型也有类似反应。但行业又用“百分之二十五毁灭世界”“下一年百分之五十工作消失”一类说法放大焦虑,同时继续竞赛。这两个百分比是他批评的话术,不是确认预测。他认为,行业没有讲清人工智能的利益、负面影响如何缓解,以及自由、自治和参与未来为何重要。他反对少数人用治病、富裕和娱乐换取替公众做决定的权力,因为创业、创建公司和发明技术所需的个人赋权,是近代经济成就的重要基础。Sam Altman还预测,人工智能可能带来史上最大的小企业创业潮,降低特权、运气和资源门槛;同时承认OpenAI没有充分解释这种赋能,也没做出足够多的加速产品。David Senra引述The Intel Trinity中Robert Noyce、Andy Grove、Gordon Moore开课教育市场的故事,建议人工智能公司也主动教学;课程规模属于书中叙述。Sam Altman同意OpenAI应该做得更多。

David Senra认为人工智能行业尤其不善于向公众解释技术价值。他还转述Tobi Lütke的说法:Shopify Inc.与Founders虽然方式不同,却都在创造更多创业者。这提醒我们,教育不只是公关,而是让潜在使用者理解新工具能做什么、怎样进入自己的工作。若创业潮真的出现,受益者可能包括过去缺少资本、关系和好运的小团队。不过这仍是Sam Altman的预测;他对现状的判断,是OpenAI此前尝试过教育市场,却还没有找到正确方法。

09/15

个人上下文与平台边界

Sam Altman认为,最新模型已经相当聪明,更大的限制是缺少个人上下文。他希望AI agent能读取自己来不及处理的Slack、客户故事和研究论文,在决策时给建议;他预测,系统若能在数秒内准确处理数万页材料,会成为人类顾问难以匹敌的补充。David Senra已经做了一个内部工具:收录二零一八年以来的读书笔记、摘录和Founders内容,每天用于制作节目。它能找回约七年前关于Robert Noyce、John D. Rockefeller的资料,也在两三周前为Claude Shannon节目检索旧笔记。模型的聪明加上长期材料,才让建议真正相关。公司战略上,Sam Altman希望OpenAI更像平台,而不是覆盖所有品类。他表示ChatGPT与Codex已经合并,核心是统一人工智能界面和Application programming interface:既提供科学发现所需的高端系统,也提供低成本的大规模工作能力。他预测聊天框与编码代理会变成更持久、可能主动帮助用户的界面,并希望平台服务一亿家新企业和八十亿人。这是愿景;重点是让外部开发者构建,而不是OpenAI吞下整个经济。

这套平台同时覆盖成本—性能曲线:一端是用于科学发现的高端系统,另一端是便宜地完成大量无需天才级智能的工作。Sam Altman想要的是个人或企业的单一Artificial general intelligence入口,既能持续理解用户,也允许开发者通过Application programming interface把能力接到不同场景。上下文解决“建议是否相关”,平台边界解决“谁来决定具体用途”,两者共同避免一家公司的产品清单代替整个生态。

10/15

为通用智能舍弃好产品

战略聚焦最痛苦的地方,是要为伟大想法放弃好想法。Sam Altman认为,这是创业者最难学的功课之一,他自己也不擅长。Sam Altman称,OpenAI在此前一年内部决定停止Sora,把有限Compute转向更重要的Codex;OpenAI 官方说明把 Sora 网页和应用体验停止服务日期列为二零二六年四月二十六日,API则有后续停止时间。两者分别是内部资源决定和公开产品时间线,不能混为一谈。他还说,OpenAI停止了名为ChatGPT Atlas的网页浏览器,把人才转去更重要的方向。Sora与Codex争夺Compute,ChatGPT Atlas与其他项目争夺人才,说明好产品之间也存在机会成本。Sam Altman判断,有限资源应优先投向服务知识工作、最终服务科学的通用智能;自研芯片、数据中心、基础设施软件和模型训练,都应把通用人工智能做成灵活平台,再由用户形成具体产品。这套逻辑与平台边界一致:越上游、越通用,潜在外溢越广。但它仍是管理判断,并不保证每次取舍都正确。

这不是说Sora或ChatGPT Atlas没有价值,而是说资源有限时,价值必须和机会成本一起比较。若OpenAI亲自进入每个终端品类,不仅会分散Compute和人才,也会与平台上的客户竞争;若集中在模型和基础设施,外部团队就能形成更多产品。Sam Altman承认自己不擅长放弃好想法,也说明聚焦并非轻松口号,而是不断在眼前可见的产品与更上游、回报更不确定的能力之间做选择。

取舍本身也要接受结果反馈。

11/15

思考伙伴、聚焦信号与尽早发布

复杂决策需要思考伙伴。David Senra用Charlie Munger的Orangutan theory,以及他为Warren Buffett组织思路的作用举例。Sam Altman的伙伴,一类是长期共事的研究同事,另一类是Paul Graham与Peter Thiel;后二者擅长提出未被列入选项、事后却很明显的方案,有时也给出具体建议。ChatGPT发布约二个月后增长很快,OpenAI却担心只是新奇,内部列出另外五—六个方向。Sam Altman转述,Peter Thiel认为转向明显错误,应加码已经增长的ChatGPT;它像Google LLC的空文本框,什么都能输入。虽然产品不符合过去二十年Silicon Valley偏爱的信息流、Network effect和锁定模板,集中投入后的结果很好。Sam Altman把这称为重要的“简单天才”建议。Paul Graham提供的则是迭代规则:Y Combinator office hours里的具体建议有好有坏,稳定精神是开放尝试。Sam Altman主张尽早发布V1,依客户反馈改进;ChatGPT虽早期且令人尴尬,也应上线。David Senra还说,Charlie Munger去世前几个月提到,与Warren Buffett合作六十五年后,原则已经内化到无需频繁通话。好顾问既给答案,也塑造判断方式。

这三个故事构成一套决策方法。把问题说出来,先迫使自己整理逻辑;Peter Thiel式顾问再帮助识别最稀缺的信号——高速增长;Paul Graham式原则则要求尽快行动,让客户反馈替代内部想象。顾问价值不只在某次答案,还在长期内化。正如David Senra转述的Charlie Munger与Warren Buffett,合作六十五年后,对方可能在电话打出前就知道你会怎么回答。

两类顾问分别减少两种错误:一类防止团队忽略已经出现的强信号,另一类防止团队因产品不完美而迟迟不接触真实用户。

12/15

Y Combinator生态、成功样本与重复原则

Sam Altman认为,Y Combinator不只创造商业价值,还改变了过去二十年的科技创业生态。OpenAI的Iterative deployment、技术人员主导,以及押注年轻、高能量、有雄心但经验较少的人,都受它影响。David Senra用The Velvet Underground影响后世音乐人的故事类比这种文化扩散。Sam Altman说,Y Combinator还改变了创始人杠杆、融资、雄心项目和履历门槛;如果只有技术从二零零四年推进到二零一六年,而生态没变,OpenAI不会成为可能。谈到学习,他认为失败往往原因太多,容易错判因果;从Y Combinator和OpenAI的成功中找出真正奏效的部分,更容易迁移。他仍主张从每个数据点学习,但失败教训常只是早已知道的泛化原则,甚至会干扰判断。David Senra把Founders比作“创业者的教堂”:像周日反复讲共同故事,提醒人多接触用户、尽早发布、获取反馈、提高招聘标准,少参加会议和晚餐,把时间放在制造与销售产品。原则不新,难的是重复到能够执行。

David Senra一时找不到Sam Altman的明确历史对应人物,玩笑说希望一共谈八次,到第七次再回答。他还转述Doug Leone谈过一位离开风投岗位、后来创建Nubank的创始人,用来说明投资者转为大型公司创始人的路径罕见;约十年或十五年、约一万家公司,都是David Senra的概数。Sam Altman则说,跨产业研究真正成功的企业,常看到同一批原则不断重现;甚至讲给别人多次,自己仍可能没有做到。

所以,反复提醒并非缺少新知,而是对抗执行中的遗忘。

13/15

四年半无产品时如何管理研究

OpenAI从成立到第一个产品用了四点五年,这和Y Combinator“尽早发布”几乎相反。Sam Altman说,最难的新问题是:没有客户反馈时,怎样管理研究团队?答案不是停止迭代,而是寻找替代信号。Dota 2研究期间,Reinforcement learning系统在排行榜上的表现,以及能否击败人类,提供了客观反馈,让不同想法可以比较。团队也研究Bell Labs与Xerox PARC的历史,并向Alan Kay等参与过优秀实验室的人请教;有些建议有效,有些不适合当下。关键不是照搬旧组织,而是得到能改变下一步行动的信息。排行榜把模糊争论变成可观察表现,历史经验扩展管理选项。没有客户时,研究组织仍需要真实的学习回路,否则多年探索很容易失去方向。这也提醒我们,“尽早发布”是高价值原则,却不是脱离任务性质的绝对命令;产品尚不存在时,管理者要先创造可信的进展梯度。

替代信号还必须足够真实。假截止日期只制造紧迫感,却不告诉团队哪条路线更好;排行榜、胜负和可信的外部反馈,才会更新判断。Dota 2的例子有价值,正因为结果直接暴露研究想法是否奏效。向Alan Kay等人请教也不是索取标准答案,而是扩大组织设计的候选集合,再由当前任务筛选。研究管理与创业迭代的共同点,都是尽快获得会改变下一步资源配置的信息。

反馈质量决定研究方向。

14/15

从公寓里的迷茫到研究节奏

Sam Altman回忆,OpenAI在二零一五年成立,早期没有Bell Labs那种母体利润支持,融资也不顺利。二零一六年新年后的第一个工作日,大约十一或十二人在Greg Brockman的公寓集合,约上午九点或九点三十分,找来白板后却发现没人知道下一步做什么;“一月四日”只是谈话中的假设日期。团队从写论文、想点子等熟悉动作开始,在大量失败中逐渐学会提出、支持和评估研究赌注。多年后,路线从Unsupervised sentiment neuron走到GPT-1及后续Generative Pre-trained Transformer,并借Scaling laws建立扩大模型、购买更多Compute的信心。Sam Altman说,排行榜和向重要外部人士演示有效,人为制造的假截止日期无效。区别在于,前两者会带来更新判断的信息,假日期只有压力。约十年后回看,这不是按蓝图执行的成功史,而是从迷茫开始,靠可比较任务、外部反馈和资源选择,逐步形成研究节奏。

早期融资困难又让选择更尖锐:团队没有无限资源,必须辨认哪些赌注值得继续支持。写论文、讨论想法或设置日期,都可能显得忙碌;只有可比较表现、重要外部人士的反应和Scaling laws等证据,才真正提高对方向的信心。第一天找白板却不知道做什么,与后来敢于扩大模型和购买Compute之间,没有一条预写路线,连接两端的是多年失败、反馈和逐渐成形的选择机制。

研究节奏的形成,本质是把混乱尝试逐步转成可比较、可追加、也可停止的下注。

组织也在持续学习。

15/15

给孩子写信:组织记忆也是道德镜子

第一个孩子出生后,Sam Altman会在哄睡时讲当天的工作、担忧和难题,后来每周日写成信,却只写了约八封;他有二个孩子。David Senra劝他恢复记录,因为创始人通常不会在四十岁写自传,等到六十或七十岁、尤其七十岁回望,许多现场细节已经丢失。他引用Jeff Bezos关于“做能自豪地讲给孙辈听的事”的说法,也举Michael Moritz的The Little Kingdom: The Private Story of Apple Computer为例:书记录Apple Inc.最初六年,结束时Steve Jobs还没离开公司,因此保存了结局尚未确定时的心态。Sam Altman说,写给孩子还有道德作用:如果在意孩子未来怎样看自己,就很难掩饰一次让自己感觉不好的决定,写下来会推动下一周做得不同。信件既是组织记忆,也是个人镜子;即使只作内部材料,也能保存决定形成的现场。Sam Altman最后只说,也许会重新开始,所以这仍是可能性,不是已经恢复的习惯。

记录越靠近事件,越能保留当时不知道结局的判断;等成功或失败已经发生,回忆很容易被结果重新整理。写给孩子又比普通日记多一层约束,因为读者是Sam Altman最在意如何评价自己的人。David Senra强调,即使不公开、只留下内部书稿,也能帮助未来的家人和组织理解决定怎样形成。它保存的不只是大事件,还有担忧、犹豫和下一周准备改正的具体心态。

这也是为什么创业史的价值,不只在结果,更在保留结果出现前的选择与责任。