推理经济学 · 一个 Token 的账本
硅的折旧、存的房租、电的千瓦时、批的摊薄、价的转嫁——本篇作为 Antimeridian 硬科技拆解体系的完整公开样板(8 域 51 维 + 实时算力成本计算器 + 14 张职业与产业路径卡),免访问码全文开放。
硅的折旧、存的房租、电的千瓦时、批的摊薄、价的转嫁——本篇作为 Antimeridian 硬科技拆解体系的完整公开样板(8 域 51 维 + 实时算力成本计算器 + 14 张职业与产业路径卡),免访问码全文开放。
一个 token 出厂,五道抽成:硅的折旧、存的房租、电的千瓦时、批的摊薄、价的转嫁。同质量推理单价每年雪崩约一个数量级,全行业账单却年年翻倍——因为这本账的操作系统叫 Jevons。双轨阅读:轴 A 决定性 × 轴 B 叙事热度,两轴分叉处即 alpha。
不看后面也值得看完的开场:每条都是这册图鉴里用最高强度研究换来的极致结论——完整方法论在它们之后。
生成一个 token 的成本下限,是把整个模型从显存读一遍的时间——买卡看 FLOPs,干活认 GB/s。
单价每降 10 倍,总消耗涨得更凶——降本省下的每一分钱,都会被新的用法花掉。
客户的账单、提供商的账本、你自己的摊销,三本账永远在三个房间——看懂三间的做配置。
数据中心的计量单位从「栋」换成「吉瓦」:单园区逼近 1GW(约一座中型城市用电),微软传出 38GW 规划,Meta 首个吉瓦部署瞄准 2026 下半年。
同质量能力的价格每年雪崩约一个数量级:GPT-4 级能力从 2022 年的 $20–60/M 跌到 2026 年的 $0.40/M 量级,各家 API 一年内普遍砍 50–80%。
对数坐标上,2022–2026 的同质量 token 价格是一条陡峭的直线坠落,中间被 mini 级模型与 DeepSeek 两波价格战砸出两级台阶。
2025 年 1 月,R1 以极低 API 定价与开源权重上线,一周内重写全球成本叙事:算力链巨震、各家紧急调价、「低成本」成为中文圈最强技术叙事。
生成每个 token 的物理下限,是把整个模型的权重从 HBM 读一遍的时间:70B FP16 权重约 140GB,3.3TB/s 的卡单流也就二十来个 token/秒。
混合专家把「总参数付房租、激活参数付电费」写进架构:671B 总参数的模型每 token 只激活 37B——KV 房租照大架构收,算力电费按零头结。
每生成一个 token,都要把之前所有 token 的 Key/Value 存在显存里备用:上下文越长租客越胖,128K 上下文的 KV 能吃掉数张 80GB 卡。
小模型打草稿、大模型一次批改多个:大模型每读一遍全部权重的代价不变,却一次验收 3–5 个 token——等于把带宽单价摊薄。
GB200 NVL72 把 72 颗 die 用 NVLink 缝进一个机柜,铜缆在米级距离跑出闪电带宽——一个机柜一套房的价格,换来「scale-up 优先」的新拓扑。
该维度对「每 token 全链路成本」或「价值分配格局」的影响权重。5=铁律:物理/结构级,绕不过(带宽墙、折旧、Jevons);3=中枢:显著但可绕(GQA、SLO 策略);1=装饰:话术层或边际优化。
在社区与资本市场话语中的声量。5=顶流:财报会与 X 每日必谈;3=圈层:从业者圈内密集、圈外无声;1=暗室:只有论文作者与引擎 committer 知道。
■■■ 跨社区高频一致,有一手资料锚定;■■ 中等,方向共识、数值有分歧;■ 小众或前瞻,尚在争议中。特色标签:无声宝藏(决定性高×热度低)、叙事泡沫(热度高×决定性低)、经典反讽、中英分轨。
本作混合三层:事实层(论文与生产系统背书:SOSP'23 / FAST'25)、推断层(毛利与格局,用 ■ 分级)、叙事层(社区梗与媒体口径,绝不伪装成统计)。锚冻结于 2026-10-02,此后数字不再追新。
四榜单由数据排序自动生成。灵魂在第四张:无声宝藏榜——决定性 ≥4 且热度 ≤2 的条目,按分叉深度排。推理成本降一个数量级,赢家名单多半藏在这里:被物理定律写死、却还没进财报电话会议题的那些环节。
把五层栈缩小到一张桌子上:一台 24GB 统一内存的 Apple Silicon、几路 API 订阅、一张月底账单。宏观叙事(吉瓦、万亿)落到个人尺度长什么样——这里是同一本账的最小可运行版本。
统一内存带宽 ≈120GB/s,Q4 量化的 30B 级模型权重 ~17GB——decode 上限就是带宽除以权重:约 7 token/s,MoE 与投机解码再抬回 20 上下。内存带宽墙(A02)在笔记本上同样成立,只是单位从吉瓦换成了瓦。
同一家 API:读题价、答题价、缓存价可以差一个数量级。把 system prompt 钉进缓存(B05),长会话的账单能掉一半——个人用户最容易白捡的一档「软件杠杆」(D 域)。
典型月底账单里,八成消耗来自两三条失控循环:agent 重试、超长上下文反复粘贴、思考链放开不封顶。F05/F06 的燃烧弹不在机房,就在你的 ~/.usage 里。定价≠成本(定律三),但你的账单只认定价。
同一个注意力,两本账:NO.25《注意力几何》拆的是前向传播里每一次 softmax 的数学——QKV 如何路由、信息如何压缩;本作拆的是那一次数学被复用一千万次之后,账单长什么样——带宽怎么收租、批处理怎么摊薄。想懂 token 为什么这么贵,先懂注意力为什么这么想。
推理经济学的职业地形:四条主线(junior → senior 向右),虚线为换乘通道,菱形为支线终局。十四条路径卡的五星适配度,按「懂技术、看得懂财报、想在市场上用这套框架」的读者画像打分。
| 编号 | 维度 | 域 | 轴A 决定性 | 轴B 热度 | 共识 | 账本层 |
|---|
本篇《推理经济学》展示了我们拆解单一技术命题的标准颗粒度。在全站付费研究库中,我们用同样的第一性原理与物理/财务交叉验证,完成了 37 部行业与单公司深度 Primer、68 部交互图鉴,以及覆盖 244 家独立发行人(全球核心标的)的商业模式神比喻总典。