Jeff Dean离职后首次公开访谈火力有点猛。。。

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400"> Jeff Dean离职后首次公开访谈火力有点猛。。。 梦瑶 2026-08-21 12:05:11 来源： 量子位 梦瑶 发自 凹非寺 量子位 | 公众号 QbitAI Gemini早期在Coding这事儿上，做得确实不太行哈。。。 要不说姐夫这人还是实诚呢～ 从谷歌离职后的首次公开访谈也不藏着掖着了，直接上演了场《前员工锐评老东家》！ 在斯坦福2026 Frontier&Pioneer Symposium上， Jeff Dean 一口气聊开了不少过去很少公开展开的话题—— 关于 为啥离开谷歌、Gemini为啥不行、自己的科研秘诀、新公司Discovery Loop接下来准备押注什么 ……在访谈里全来了个一吐为快。 整场访谈听下来，信息密度可以说是相当高，姐夫这次给出的几个核心判断，我也帮大家浅浅总结了一下—— AI在网络安全上的能力，已经可能达到顶级人类攻击者水平，甚至更进一步。 TensorFlow当年有两个很明确的失误，Jeff Dean自己也认。 未来科学实验的一轮迭代，可能从一天、一周压缩到一分钟、一小时。 姐夫真正想做的递归自我改进，覆盖模型参数、训练数据、Eval，甚至模型架构本身。 在找重大研究方向时，与其精读1篇论文，不如先扫10篇，甚至100篇摘要。 以下为本次访谈的重点内容实录，围绕核心观点做了摘选整理，部分文字在不改变原意的基础上做了适度删改～ Gemini早期在Coding上确实有所欠缺 Q： 回头看Gemini的开发过程，最让你意外的是什么？有哪些经验能够影响下一代AI系统？ Jeff Dean： Gemini其实是Google内部几个更早研究项目最终汇合的结果—— 包括原来的DeepMind、Google Brain，以及Google Research其他团队的一些工作。 当时我们逐渐意识到，大家其实都在朝非常相似的方向走。 比如不断扩大模型规模，同时也有几支团队各自在研究怎么让语言模型拥有多模态能力，让它能够理解图像之类的信息。 所以当时我写了一份一页纸的Memo，我就想，这样各自做各自的有点傻，我们应该直接一起做。 把大家的人、想法和算力资源都整合起来，训练一个从一开始就具备多模态能力的模型，把Google内部多个研究组织里最优秀的人聚到一起。 后来我和Oriol Vinyals一起发起了Gemini项目，担任最初的联合技术负责人，把这些团队真正聚了起来。 现在回头看，从一开始就让模型具备多模态能力，是一个非常成功的决定。 因为如果你最终希望一个模型能够用于各种事情，它就应该同时理解文本、语言、代码、图像、视频、音频，以及其他模态。 我们当时甚至在训练数据里放了一点LiDAR数据，至少让模型知道LiDAR这种数据形式的存在，因为之后进一步训练Gemini时，它也可能成为一个重要的应用场景。 但当时我们希望模型在很多事情上都表现得很好，所以我觉得， 当时我们对怎么把Gemini的Coding能力真正做到惊艳，重视得稍微晚了一点。 后来我们意识到了这一点，也一直在努力追赶，现在已经有一些很不错的工作在推进。 而且我觉得Coding其实是一个非常重要的能力。 当你专门去提升模型的Coding能力时，最后往往会得到一个更善于推理的系统，因为写代码本身就要求模型能够一步一步处理问题，把一个复杂的问题拆成多个子问题，再逐个解决。 所以当Coding能力得到提升以后，这种能力通常也会迁移到很多非Coding任务里。 承认TensorFlow当年有两个明显失误 Q： 回头看TensorFlow，当时有哪些设计是你今天会重新考虑的？如果现在重新做一次，哪些地方会做得不一样？ Jeff Dean： 我觉得我们当时有几件事情确实做得不太对。 第一，最开始没有加入Eager Execution这种模式。 后来这种方式在PyTorch和JAX这样的框架里变得很流行，TensorFlow后来也把它加了进来，我觉得这其实让整个抽象变得更好了。 另外一个问题，是我们开源TensorFlow的时候建了一个叫 contrib的子目录 ，允许很多外部开发者往里面贡献各种辅助库和不同的实现方式。 后来这给社区带来了挺大的困惑，因为慢慢就变成了同一件事情可能有十种不同的做法，你到底该用哪一种，取决于你用了contrib里的哪个子目录、哪个库。 现在回头看，我们当时其实应该让TensorFlow核心保持更简洁，把这些东西作为建立在核心之上的外部库。 如果今天重新做一次，我们不会再这么设计。 当然，TensorFlow整体上还是帮助了很多人真正开始接触机器学习，也让大家可以用一套共同框架去解决自己关心的问题，这一点我觉得是很有价值的。 离开谷歌的原因之一：小团队可以极致聚焦！ Q： 你为什么选择离开谷歌创业？相比大公司，小团队在做前沿AI研究上有什么优势？ Jeff Dean： 我其实非常喜欢自己在谷歌度过的这些年，我在那里工作了27年，有很多非常棒的同事。 所以我觉得谷歌现在的状态很好，他们也有自己的计划，会继续把Gemini模型做得非常出色，与此同时，我自己也很期待出去做现在这件事情。 有时候，一个非常专注的小公司，所有人都围绕同一个使命工作，这种状态本身就很有吸引力。 而且今天的条件已经和以前很不一样了，云计算的发展，以及各种云平台上大规模机器学习算力的部署，让一个很小的团队也可以筹到一笔钱，然后直接使用这些基础设施，不需要自己从头把整套东西建起来。 所以如果一小群人有一个梦想、一个愿景，或者有一个自己特别想探索的方向，现在完全可以在一个规模很小的组织里去做。 我们可以依赖谷歌或者其他云服务商，让他们承担很多重基础设施的工作。 对我们来说，现在作为一家小公司，最令人兴奋的一点，就是可以非常专注地去做科学和工程自动化 。 坦率讲，这件事情我们大概也可以留在谷歌内部做。 但如果只有大概10个人，大家坐在Palo Alto某个办公室里，所有人都只专注于这一件事情，那么很多大型组织里那些轻微的干扰，就可以直接绕过去。 当然，大公司也有很多很棒的地方，我这些年在谷歌建立了很多很深的友谊，也从大型公司能够提供的资源和支持中受益很多。 所以现在离开这些支持，确实会稍微让人有点紧张，同时，也非常令人兴奋。 离开谷歌后，想把科学发现变成一个可以自动迭代的Loop Q： 最近大家越来越多地讨论递归自我改进，AI系统能不能持续学习如何改善自己，甚至进一步加快AI发展的速度？你怎么看这件事？ Jeff Dean： 用机器学习来改善机器学习，其实已经探索很多年了。 像我的联合创始人Quoc Le，很早就在做Neural Architecture Search：让一个模型自动生成模型架构，再根据学习速度、训练成本等指标不断获得反馈，逐渐找到更好的设计。 后来他们还做了Evolved Transformer，通过进化算法重新组合Transformer组件，最终找到的架构效率比标准Transform