汽车
evening
字节AI,先慢后快?
2026-08-15
1 阅读
约10分钟阅读
伯虎财经
字号:
文 | 伯虎财经(bohuFN),作者 | 楷楷 一向低调的字节跳动创始人张一鸣 , 却在 近日高调发声。 他 在 7月底的Seed全员会上罕见现身, 明确 表示 “ 字节跳动不会把蒸馏当作提升 AI模型能力的捷径,即便Seed的模型能力暂时落后于国内主要的竞争对手。 ” 话音未落,字节又干了一件大事 。 据 36氪报道 ,其 成立了一个新的一级部门 “AI数据与安全”,整合超千人的数据团队,与Seed、Flow、抖音等部门平行 。 此外,据 《晚点 LatePost》报道,字节正在讨论训练一个参数规模超5万亿的模型, 如果落地,将会 是目前国内已知参数规模最大的模型。 同一时间,豆包的商业化 也开始 全面加速: 68、200、500元三档包月正式上线 ;豆包针对生活服务订单开始抽佣; 飞书产品团队 与 豆包 合并 ,猛攻桌面 Agent。 更大的模型、更强的技术基础, 以及从架构到业务 都 重新整合的商业闭环 ,当字节 AI不再强调“追赶”之后,它开始尝试 讲一个更慢、但更有想象力的故事。 字节 AI,继续“大力出奇迹” , 只是这一次, “出力”的方向 变了。 01 张一鸣“拒绝蒸馏” 字节跳动创始人张一鸣,自从在 2021年退居幕后,一直非常低调。但近日,他却罕见地在 Seed全员会 上露面,明确表态 “拒绝蒸馏”。 随后在 8月5日的字节全员会上, 字节 CEO梁汝波进一步定调:“字节大语言模型会坚定自研,做好基本功,接受短期落后,坚持优化长期,最重要的是动作不要变形。” 两位大佬同时发声,为何字节会如此 态度鲜明 地反对 “蒸馏” ? 先看看何谓 “ 模型蒸馏 ” ?就是用更强大的前沿模型生成的输出 , 来训练自己的模型。 就像在复习时坐在学霸(教师模型)旁边,向他反复提问, 得到 答案;再用这些 “题目和答案”来训练自己(学生模型),以快速提高成绩。 但需要明确的是, 蒸馏不是抄袭,它无法直接获得另一个模型的权重和完整训练数据 ,它只是一种相对 “更快”的学习方式。 在国内 AI圈,蒸馏几乎是一种心照不宣的“常规操作” 。 比如在 2025年初, DeepSeek发布推理大模型DeepSeek-R1 ,其还 同时发布了六个小尺寸的蒸馏模型,它们的 “ 教师模型 ” 都是 R1本身 。 但在海外 AI 圈,蒸馏却引发了舆论风暴。 今年初,美国 AI公司Anthropic指控DeepSeek、Kimi和MiniMax三家大模型厂商,对其Claude模型发起工业级“蒸馏”攻击,但这三家企业均 未作出正面回应。 蒸馏确实是提升大模型能力的一条 “捷径”,但“更快”是不是等于“更好”,则一直留有争议。 主流的观点是,对于第一梯队的大模型企业而言,仅仅通过蒸馏,很难真正建立起技术壁垒。况且, 大规模展开蒸馏 也 是一个比较复杂的系统工程 , 也需要计算投入回报比。 蒸馏技术本身并非原罪,但至少在 字节 这里,其 对蒸馏的警惕, 几乎贯穿了整个 AI叙事。 早在 2023年,模型团队内部就明确 , 不得将 GPT生成的数据加入训练数据集 。 2025年1月, DeepSeek R1横空出世, 以有限的训练成本展现出强大的推理能力 ,给国内大模型企业带来很大的竞争压力,包括字节 Seed团队。 对此, Seed内部曾有过讨论,是否要采用蒸馏方式, 引入美国头部模型的生成结果 ,但最终 这个提议 被管理层否决了。 不过,面对国内外大模型不断跃升的智能水平,蒸馏一直是 Seed内部无法回避的 选项。 一直到 Kimi K3 出现,这个同样来自国内的大模型, 能力 已非常 接近国外闭源旗舰模型 ,让 Seed内部偏向蒸馏的声音更多了。 这一次,张一鸣终于站出来表态 “不接受蒸馏”。据36氪报道, 这次全体会之后, Seed内部出台了新的政策 , 明确要求禁止蒸馏 K3等开放权重模型,并追溯排查疑似蒸馏的行为。 对字节来说, “拒绝蒸馏”不仅仅是口号,还是已经落到实处的动作。 02 打自己最擅长的牌 但问题是, 一向信奉 “大力出奇迹”的字节,这次为何一反常态,宁愿慢下来? 或许可以回到字节自身的基因里去找 答案 。 2012年,字节跳动推出第一款产品“今日头条”,从产品模式来看并不算非常创新。当时, 搜狐、网易、腾讯 等大厂均推出了类似的资讯 APP。 但 “今日头条”的特别之处在于, 它 尝试 用技术手段来影响哪些内容能被用户看到 , 依靠算法推荐这一技术, 字节走出了一条 区别于门户的新闻资讯模式, 并沿用至今。 如此,也就不难明白为何张一鸣选择对 “蒸馏”说NO。 蒸馏本质上是在复制别人已有的能力,沿着这条路走,最多只能不断逼近对方,很难真正实现超越 。 只有颠覆行业已有的经验,才能 走出属于自己的赛道 ,这是字节从打造第一款产品就学会的经验,在 AI大模型领域更是如此。 2024 年, 牛津、剑桥等机构的联合研究登上《 Nature》封面, 指出 如果模型反复用 A I 生成的数据训练,原始数据分布中的尾部信息会逐渐消失,最终产生不可逆的能力退化。 更重要的是,字节 的核心战场从来不是纯文本大模型,而是原生多模态 , 它要求模型从零构建对物理世界的多维度感知,建立文本、图像、视频、音频之间的深层对齐机制。 如果选择 蒸馏 别人的模型,就相当于继承了别人的 编码地基 ,字节就会失去从零定义多模态模型规则的能力。 那么,拒绝蒸馏的字节,靠什么来让模型变得更强?答案是数据。 近日, 字节跳动成立了一个新的一级部门 “ AI数据与安全 ”。 这个部门的前身之一,是由 TikTok创始团队成员傅越成立的数据团队Global Data, 同时 还整合了多个此前分散的 AI数据部门 。 据《智能涌现》报道,接近该部门人士表示,这一 部门 将 会是一个横跨基座模型到业务团队的庞大数据团队,其核心职能是为字节所有大模型,提供跨模态的数据服务。 在这之前,字节对大模型的训练数据一直不吝投入。 2026年, 字节的数据预算已超过千万美元级别,并且 是 “可以随时追加预算” 的状态 。 “数据”为什么越来越重要。如今, 整个 AI行业正在经历一场结构性转变 ,大模型能力 正在快速同质化 , 算法架构带来的能力提升趋缓 , 数据 逐渐 成为决定模型能力上限的变量 。 但越是高质量的数据,越是稀缺。据独立研究机构 EpochAI 的最新测算, 语言模型的训练将 在未来五年 耗尽人类公开的文本数据 , 高质量语言数据的枯竭甚至可能提前至 2026年 。 过去一年,各大模型厂商都加大了对数据的投入。 2025年, Anthropic为RL数据拨出了超10亿美元预算 ; OpenAI全年数据开销约10亿美元,内部预测2030年将涨到80亿美元。 然而, 数据 恰恰 就是字节最擅长的牌。 过去十年,字节 已经 积累了一套极其成熟的数据飞轮: 全球 用户 每天在平台上 产生海量 的 行为数据 ,帮助字节绘出更细致的用户图谱,同时不断完善平台 的 推荐 算法 。 这些沉淀下来的图文、 视频、直播 和 互动数据 , 不仅量大,而且真实、带有上下文 ,也成为了字节大模型 最稀缺的 训练材料 。 在通往 AGI的路上,字节已经握着比别
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱