开发者生态
morning
Agent 狂吞 Token,表面是模型之争,底层全是煤电博弈
2026-06-30
1 阅读
约10分钟阅读
李冬梅
字号:
AI 开始进入算账阶段 过去一年,模型厂商不断降价,DeepSeek、通义千问、智谱、MiniMax 等国产模型,也把大模型调用价格拉到了一个新的区间。表面看,Token 价格是模型厂商之间的竞争结果,可如果往更底层看,每一个 Token 背后,都有一条从电力、土地、机柜、制冷、网络、存储、GPU 调度到企业内部使用方式的长链条。 优刻得董事长兼CEO季昕华在接受 InfoQ 采访中谈到,今天企业老板最关心的事情大致有三件:第一,如何让员工用上、用好 AI;第二,用了一段时间后发现成本很高,如何降低成本;第三,如何真正提高效率。也就是说,AI 不是不用了,而是开始进入算账阶段。 Token 成本不只是 API 标价问题,它正在变成一场贯穿“电力—算力—模型—应用—组织”的系统工程。 优刻得到乌兰察布,最早不是因为 AI。 据优刻得副总裁刘杰回忆,2017 年筹划建设乌兰察布数据中心时,AI 还没有真正起来。当时更多考虑的是 CPU 业务,第一栋楼最初也是按照 CPU 计划来做,后面才逐步转向 GPU。那时 优刻得的设想,是把乌兰察布作为服务北京的“前店后厂”:北京是用户和业务前台,乌兰察布提供低成本、低时延的数据中心支撑。 选择乌兰察布也不是拍脑袋。季昕华提到,当时苹果在国内选数据中心,由于对优刻得的技术水平比较认可,曾让优刻得一起参与选址。他们团队跑了很多地方,从贵州、四川、重庆、青海、宁夏、甘肃一路看到内蒙古,最后发现乌兰察布是一个很适合建数据中心的地方。 原因很直接:第一,电比较便宜;第二,苹果要求 100% 绿电,内蒙古有机会做到;第三,天气比较冷,PUE 更好做;第四,离北京近,不管是网络时延,还是人员往来,都比较方便。 这些因素放在云计算时代已经重要,放到 AI 时代更重要。 因为 AI 最终会把所有成本打穿到电力上。季昕华在谈到 Token 降本时说得很直白:Token 的终局是电力,电便宜,Token 就便宜。内蒙古的优势也正在这里。 在现场交流中,刘杰表示,他们其实也算过一笔账。 “以一台某国外顶级服务器为例,其功耗约 6.5 千瓦,一台服务器通常有 8 张 GPU 卡。一个千卡集群大约需要 125 台服务器。仅服务器本身,一年耗电就已经是一个很大的数字;如果再乘上 PUE 系数,才是数据中心真正要承担的总用电。” 这就是为什么数据中心选址、电价、PUE、高功率机柜,会直接影响 Token 成本。 过去 IDC 行业讲“柜子”,更关注机柜数量。但 AI 时代,“多少个柜子”本身已经不够说明问题。优刻得青浦数据中心约 42 亩地,设计容量约 5000 个机柜;乌兰察布园区约 212 亩地,设计容量约 12000 个机柜。但季昕华和优刻得方面都提到,传统机柜和今天 AI 算力需要的高功率机柜已经不是一回事。 大模型训练和推理需要更高的功率密度。普通机柜可能放不下多台高功耗 GPU 服务器,单机柜供电能力、散热能力、网络布线、液冷能力,都会重新定义数据中心价值。现场交流中提到,液冷单机柜可以做到 35 千瓦,这背后需要电路和散热系统专门改造。 如何真正降低 Token 成本? 这也是为什么一些传统低功率数据中心正在出现空置,而高功率数据中心反而供不应求。 季昕华提到,国内现在有些原来低功率数据中心空闲率比较高,但像优刻得这类高功率数据中心,还没有开始建,就已经有订单进来。季昕华表示,新建的数据中心按照前几栋楼的情况和市场需求判断,满载率预计会非常高,已有一些签约订单。 数据中心的成本竞争,正在从“有没有楼”转向“能不能承载 AI”。 乌兰察布的优势也不只是便宜电。 这里海拔较高,年均温度低,天然有利于制冷。PUE,也就是能源使用效率,是数据中心非常关键的指标。简单说,数据中心总用电中,真正用于服务器计算的比例越高,PUE 越低,能源利用效率越好。气温低意味着制冷能耗下降,PUE 更容易做低。 此外,乌兰察布所在区域的能源结构相对稳定。这里有风电、光电,也有煤电,供电结构更稳。对于 AI 数据中心来说,便宜电固然重要,但稳定电力同样重要。 GPU 集群不怕贵一点,怕的是中断和不稳定。训练任务一旦中断,损失的不只是电费,还有时间、算力窗口和客户信任。 所以,Token 降本的第一层答案,是选对地方,把电力成本压下来,把 PUE 做下来,把高功率机柜建起来。 但这只是开始。 季昕华在谈到如何降低 Token 成本时,给出了几个方向。 第一个方向,是使用国内模型。相较海外模型,DeepSeek 等国内模型在价格上有明显优势,智谱、MiniMax 等客户和模型厂商也在持续提升能力。对很多企业应用来说,并不是所有任务都必须调用最贵、最强的模型。一个 85 分的模型在某些任务上确实更好,但一个 80 分模型如果也能完成任务,且成本低得多,就会成为更现实的选择。 第二个方向,是从技术上提高“每度电产生 Token 的数量”。这句话很关键,它把 AI 成本问题重新拉回到基础设施效率上。过去大家习惯讨论每百万 Token 多少钱,但真正决定长期成本的,是每一度电最终能转化成多少有效 Token。GPU 利用率、推理框架、模型部署、网络通信、存储读写,都会影响这件事。 第三个方向,是选择合适的数据中心位置。内蒙古这种电力和气候条件较好的地方,可以在底层成本上形成优势。乌兰察布更适合训练,以及覆盖北方的大部分推理需求;而上海的青浦更适合华东地区对时延更敏感的业务,比如金融、汽车等场景,也更适合部分推理业务。这实际上对应了“东数西算”的分工逻辑:不是所有算力都必须离用户最近,也不是所有算力都适合放到西部,而是要按任务类型拆分。 第四个方向,是模型组合。季昕华提到,不同模型的能力边界不同,企业不能总想着用一个模型解决所有问题。比如有些模型适合前端代码,有些模型适合后端,有些模型适合测试,有些模型适合需求分析或写作。未来更合理的方式,是把一个任务拆开,让不同模型处理各自擅长的部分,甚至由平台自动帮用户选择模型。 这点非常重要。因为 AI 降本并不等于一味调用便宜模型,而是在“效果”和“成本”之间做动态路由。一个复杂任务里,真正需要顶级模型处理的部分可能只有 20%,其他部分可以交给更便宜、更快的模型完成。这样才是面向企业级 AI 应用的真实降本。 第五个方向,是 Prompt 管理和 Prompt Engineering。很多企业现在一边喊 AI 成本高,一边并没有建立内部使用规则。员工怎么提问、调用什么模型、是否复用模板、是否重复调用、是否把简单问题交给高价模型,这些都会影响 Token 消耗。季昕华提到,让员工按照一定规则用好 Token,也是降本的重要手段。 这就把问题从基础设施推进到了组织管理。 企业真正的问题不是“有没有 AI”,而是“AI 花出去的钱有没有产生价值”。 季昕华谈到,优刻得内部每天都会看 AI 使用报告,包括多少员工用了 AI、用了多少钱、用在什么场景上。Coding 是用量非常大的场景,查询、PPT 等场景也在增长。但他也承认,目前最大的问题,是如何衡量这些投入到底带来了多少产出。 这可能是所有企业都绕不开的问题。 AI 工具铺开之后,会出现三类情况:第一,很多员工还在摸索怎么
这篇文章对您有帮助吗?
订阅66必读
每日精选科技资讯,直达你的邮箱