頭條 · 產業影響
每個 token 的成本跌了 280 倍，但推理模型一次要花掉多幾十倍的 token——AI 變便宜了，也變更貴了，兩件事同時是真的。
Dmitri Volkov
·
2026年08月15日
過去幾年，AI 產業的資本支出敘事幾乎都圍繞著同一個畫面：實驗室砸下數十億美元蓋出更大的訓練叢集，把更多算力、更多資料塞進模型，換取下一代模型的能力提升。但隨著推理模型（reasoning model）興起，這個畫面正在被改寫——真正快速成長的資本支出項目，正逐漸從「訓練」轉向「推理」，而這個轉變背後的推手，正是測試時算力（test-time compute）這個相對年輕的技術路線。推理成本的兩面：單位價格在跌，總支出卻在漲根據史丹佛大學人工智慧指數（Stanford HAI）的資料，每個 token 的推理成本，在 2022 年底到 2024 年底之間下降了大約 280 倍——單看這個數字，很容易得出「AI 使用成本正在快速變便宜」的結論。但這個結論忽略了推理模型帶來的另一個效果：這類模型為了透過測試時算力換取更高的答案品質，單次回答所消耗的 token...