01
10月20日的开源
10月20日,深度求索(DeepSeek)宣布全面开源内部推理框架 DeepInfer,并同步开源生产级词元(Token)编解码组件 deepseek-recipe。
另一边的动作发生在同一时间:美国政府签下排除令,要求把它从联邦机构的采购渠道里彻底清除。
一边清退,一边开源,两件事撞在同一周。
02
报告里的两组数
比开源更受关注的是技术报告里的两组数:单一集群日吞吐155万亿Tokens;整体收入每卡每小时38美元,按谷电价计算。
要留意 · 两组数都是生产数据
日吞吐155万亿Tokens。
每卡每小时38美元,按谷电价。
03
38美元是收入,不是利润
38美元是什么口径,必须说清楚。
它是收入,不是利润。
算收入的时候不扣芯片折旧、不扣电费、不扣运维和带宽,所以这个数字不能当成赚钱能力的证明。
别误读 · 38美元不是利润
不扣折旧、不扣电费、不扣带宽。
不能当成赚钱能力的证明。
04
为什么敢公开
把收入、吞吐公开到可以被外部复算的程度,等于给行业一个参照系:同样的卡、同样的模型,你的单卡产出是多少。
![]()
05
开源的是什么
开源推理框架的意义在哪。
推理是大模型商业化的成本大头,框架决定了同样的硬件能跑出多少吞吐。
把这套东西开源,等于把降本的方法公开。
06
两件事要分开看
排除令能挡住政府采购,挡不住开发者下载;但开源也不等于商业成功,收入口径漂亮不等于利润好看。
07
效率成了焦点
这两件事放在一起看,是一个信号:在算力受限的条件下,效率成了竞争的焦点。
谁能用同样的卡跑出更多吞吐,谁就有成本优势。
08
谷电价这个词
它说明算力生意的成本结构里,电费占比不低;能把训练与推理安排到电价低谷的时段,本身就是一种竞争力。
09
推理成本的结构
一次推理要消耗算力、电力、带宽和运维;算力的折旧占大头,电费次之。
推理框架优化的,是在同样的硬件上把吞吐做上去,摊薄每一Token的成本。
10
开源的商业逻辑
框架本身不直接赚钱,但采用率上去了,围绕它的工具链、服务、云上部署就有了生意;对一家还在扩张期的公司,生态比授权费重要,采用率比短期收入重要,这也是为什么敢把「账本」公开。
11
针对的是联邦采购
它针对的是联邦机构的采购渠道,不是全面禁用,也不影响民间使用与开源社区的下载。
写这条消息,把范围说大了,反而削弱了判断的可信度。
12
三个观察点
从行业角度看,模型能力的差距在缩小,成本与效率的差距在放大。
过去两年比的是谁的模型更聪明,接下来比的是谁能把同样的活干得更便宜;这场竞争的主战场,已经从实验室挪到了机房,从参数挪到了账单。
这对企业的选型逻辑是根本性的改变:过去看谁的模型强,现在要算每Token多少钱,这笔账企业比个人算得更细,也更能左右采购决定。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.